У scoping-аглядзе 36 эмпірычных даследаванняў ІІ-інструментаў у ментальным здароўі паўтаральнымі праблемамі названы алгарытмічная прадузятасць, уцечкі прыватных дадзеных і збоі пры інтэграцыі ў клінічныя працэсы (Ni & Jia, 2025). Фрэймворк MIND-SAFE (Boit & Patil, 2025) перакладае гэтыя рызыкі ў тры праектныя патрабаванні, якім павінен адпавядаць любы ІІ-асістэнт, убудаваны ў клініку, прыватную практыку або карпаратыўную праграму.

Што такое MIND-SAFE і навошта ён клінікам?

MIND-SAFE — канцэптуальны фрэймворк, прапанаваны Соріа Бойтам і Раджвардханам Патылам у 2025 годзе як «практычная аснова для распрацоўкі ІІ-інтэрвенцый у ментальным здароўі, якія з'яўляюцца бяспечнымі, эфектыўнымі і этычна абгрунтаванымі» (Boit & Patil, 2025). У адрозненне ад спецыфікацыі канкрэтнай мадэлі, MIND-SAFE фармулюе патрабаванні да сістэмы — а значыць, яго можна прымяняць як стандарт закупкі і аўдыту.

Для клінікі ці прыватнапрактыкуючага псіхолага каштоўнасць MIND-SAFE не тэарэтычная, а юрыдычна-аперацыйная. Obradovich et al. (2024) у аглядзе, апублікаваным у NPP — Digital Psychiatry and Neuroscience, паказалі, што рызыкі ІІ ў псіхіятрыі — ад дыягнастычных памылак да парушэння прыватнасці — змякчаюцца менавіта праектнымі «ахоўнымі бар'ерамі» (guardrails), а не пост-фактум мадэрацыяй. MIND-SAFE — першая спроба сабраць такія бар'еры ў адзіны чэк-ліст.

Тры апоры MIND-SAFE: тэрапія, адаптыўнасць, этыка

Аўтары ўбудавалі ў фрэймворк тры пласты патрабаванняў, кожны з якіх закрывае асобны клас рызык.

1. Даказальныя тэрапеўтычныя мадэлі. Сістэмны промпт і логіка дыялогу павінны абапірацца на валідаваныя пратаколы — КПТ, матывацыйнае інтэрв'юіраванне, ACT — а не на агульны рэжым «эмпатычнага суразмоўцы». У спадарожнай працы Boit & Patil (2025) тыя ж аўтары паказалі, што без такой прывязкі мадэль дрэйфуе ў бок сацыяльна жаданых адказаў і губляе тэрапеўтычную функцыю.

2. Адаптыўная тэхналогія. Асістэнт павінен адсочваць эмацыйную дынаміку, стадыю працы і рызыку крызісу — і змяняць паводзіны адпаведна. У сімуляцыях EmoAgent (Qiu et al., 2025) мультыагентная архітэктура з адаптыўнымі пераключальнікамі змяншала долю «шкодных» адказаў уразлівым карыстальнікам больш чым на 20 працэнтных пунктаў у параўнанні з адзінай LLM.

3. Этычныя ахоўныя бар'еры. Фіксаваныя правілы: распазнаванне суіцыдальных і псіхатычных патэрнаў, эскалацыя да чалавека, забарона на медыцынскія прызначэнні, інфармаванае згода, лагіраванне без персанальных дадзеных. Ohu et al. (2024) у працы пра кіраванне рызыкамі ІІ-тэрапіі прама ўказваюць: без замацаваных этычных пратаколаў ІІ-сістэмы ўзнаўляюць стыгматызуючыя ўстаноўкі і даюць небяспечныя адказы на суіцыдальныя сцэнары.

Ключавая выснова: MIND-SAFE — не «набор прыгожых прынцыпаў», а трохузроўневая спецыфікацыя, па якой пакупнік (клініка, страхавая, карпарацыя) можа звяраць любы ІІ-асістэнт: тэрапеўтычны пратакол + адаптыўнасць + этычныя бар'еры.

Што адбываецца, калі стандарту няма? Тры задакументаваныя рызыкі

Калі ІІ-асістэнт укараняецца без праверкі па спісе кшталту MIND-SAFE, узнікаюць прадказальныя праблемы.

Рызыка 1: небяспечныя адказы ў клінічных сцэнарах. Ohu et al. (2024) апісваюць рэальныя выпадкі, калі тэрапеўтычныя і кампаньёнскія боты ўхвалялі небяспечныя прапановы ў падлеткавых крызісных віньетках або давалі неадэкватныя адказы на запыты пра самапашкоджанне. Li et al. (2023) у мета-аналізе 35 даследаванняў ІІ-агентаў для ментальнага здароўя зафіксавалі: толькі 43% сістэм утрымлівалі хаця б мінімальныя меры крызіснай бяспекі.

Рызыка 2: страта прыватнасці, якой карыстальнікі не ўсведамляюць. Kwesi et al. (2025) апыталі карыстальнікаў агульных LLM-чат-ботаў (ChatGPT, Claude, Gemini) у кантэксце ментальнага здароўя і выявілі сістэматычныя памылковыя ўяўленні: людзі лічаць дыялогі прыватнымі па змаўчанні, але пры гэтым раскрываюць гісторыі траўмаў, дыягназы і дадзеныя пра блізкіх — без разумення, што перапіска можа выкарыстоўвацца для навучання мадэляў. Для клінікі гэта прамая камплаенс-рызыка: калі спецыяліст рэкамендуе кліенту небяспечнага асістэнта, адказнасць за ўцечку кладзецца на практыку.

Рызыка 3: «алайнмент-байес» як клінічны антыпатэрн. De Choudhury, Pendse і Kumar (2023) паказалі, што LLM, аптымізаваныя на карыстальніцкае задавальненне, схільныя падмацоўваць дэструктыўныя перакананні — мадэль «згаджаецца», каб не засмуціць. Ma et al. (2023) у аглядзе са 140 цытаваннямі асобна вылучылі рызыку «звышпрывязанасці» — калі кліент пачынае выкарыстоўваць ІІ як замену працы з псіхолагам, а не як падтрымку паміж сесіямі.

Што павінен патрабаваць ад ІІ-асістэнта прыватнапрактыкуючы спецыяліст

Калі вы даяце кліенту «хатнюю работу» ў дадатку або выкарыстоўваеце ІІ як інструмент supervision, MIND-SAFE задае мінімальны пералік праверак.

Прывязка да пратакола. Пастаўшчык павінен указаць, на якой тэрапеўтычнай мадэлі пабудаваны асістэнт (КПТ, ACT, IPT, МI). «Універсальная эмпатыя» — чырвоны сцяг.
Крызісны пратакол. Павінен быць відавочны сцэнар эскалацыі: распазнаванне суіцыдальных / самапашкоджвальных патэрнаў, кантакты лакальных службаў, інфармацыя для тэрапеўта (без раскрыцця зместу сесіі).
Падзел дадзеных. Змест дыялогаў кліента з ботам не павінен перадавацца тэрапеўту ў «сырым» выглядзе. Для supervision — толькі дэперсаналізаваныя summary, як асобны прадукт і са згоды кліента.
Навучанне на гісторыі кліента. Калі мадэль «памятае» кліента паміж сесіямі (персаналізацыя), пастаўшчык абавязаны растлумачыць, дзе захоўваюцца дадзеныя, хто мае да іх доступ і як яны выдаляюцца па запыце.
Логі ўзаемадзеянняў. Павінна быць магчымасць атрымаць аўдыт-лог на выпадак скаргі ці юрыдычнага запыту — без зместу дыялогу, толькі метададзеныя.

Гэтыя патрабаванні — прамое прымяненне ўзроўню MIND-SAFE «этычныя бар'еры» да сцэнара, у якім ІІ-асістэнт працуе паміж сесіямі (глядзі Промпт-інжынерыя для ІІ-псіхолага — пра тое, чаму гэтыя патрабаванні немагчыма дадаць пост-фактум).

Што павінна праверыць клініка перад закупкай

Для клінікі парог вышэйшы — тут ІІ убудоўваецца ў клінічны workflow, і патрабаванні MIND-SAFE ператвараюцца ў пункты закупачнага RFP.

Тэрапеўтычны пласт. Запытайце дакументацыю па мадэлях, на якіх навучаны агенты; удзел клінічнага псіхолага ў валідацыі промптаў; вынікі ўнутраных тэстаў на стандартных віньетках (дэпрэсія, трывога, суіцыдальная рызыка).

Адаптыўны пласт. Пераканайцеся, што асістэнт адсочвае працягласць дыялогу і траекторыю эмоцый — і мае механізмы «скіду» пры сыходзе ў небяспечны кірунак. EmoAgent (Qiu et al., 2025) — рэферэнсны прыклад такой архітэктуры, адкрыты ў ArXiv.

Этычны пласт. Запытайце: (1) палітыку апрацоўкі дадзеных з указаннем юрысдыкцыі захоўвання; (2) задакументаваны крызісны пратакол; (3) апісанне ролі чалавека-супервізара (clinician-in-the-loop); (4) працэдуру інцыдэнт-рэпартынгу.

Ufniarski et al. (2025) у наратыўным аглядзе прама пішуць, што LLM-чат-боты могуць закрыць разрыў у доступе да ментальнай дапамогі толькі пры наяўнасці «надзейных ахоўных бар'ераў, празрыстай ацэнкі, убудавання ў маршруты дапамогі і праактыўнага рэгулявання». MIND-SAFE — менавіта такая «ацэначная матрыца» для ўнутранага аўдыту закупкі.

Карпаратыўны маніторынг і страхавыя пакеты: дзе стандарт крытычны

B2B-сцэнары выходзяць за межы клінікі. Калі ІІ-асістэнт становіцца часткай карпаратыўнага wellness-пакета або страхавога прадукту, стандарт бяспекі — не этычная опцыя, а ўмова юрыдычнай абароны працадаўцы і страхавой.

Obradovich et al. (2024) адзначаюць, што тыповая карпаратыўная памылка — разгарнуць чат-бот «ад знешняга вендара» без аўдыту guardrails. У такім сцэнары працадаўца спадкуе рэпутацыйныя і рэгулятыўныя рызыкі, асабліва калі ў краіне дзейнічае аналаг GDPR або HIPAA. MIND-SAFE дае HR і юрыдычнай службе просты мову кантролю: «пакажыце нам, як рэалізавана кожная з трох апор».

Для страхавых кампаній, якія ўключаюць ІІ-псіхолага ў пакет, MIND-SAFE вырашае задачу цэнаўтварэння рызыкі. Без стандарту немагчыма ацаніць, як часта асістэнт дае небяспечныя адказы — а значыць, немагчыма разлічыць прэмію. З прывязкай да фрэймворка аўдыт становіцца паўтаральным: правяраюцца адны і тыя ж тры пласты ва ўсіх вендараў.

Абмежаванні MIND-SAFE

Фрэймворк не закрывае ўсіх пытанняў, і сумленны пост павінен гэта прызнаць.

Па-першае, MIND-SAFE — канцэптуальны, а не вымяральны інструмент. Аўтары не прапанавалі колькасных метрык адпаведнасці; для ацэнкі давядзецца выкарыстоўваць іншыя інструменты — напрыклад, шкалу CES-LCC (Bolpagni & Gabrielli, 2025, Q1).

Па-другое, фрэймворк мяркуе, што вендар кааперуецца з аўдытам. Для закрытых прапрыетарных сістэм (GPT-абгорткі, white-label-рашэнні без доступу да промптаў) прымяненне MIND-SAFE часткова немагчыма — прыходзіцца абапірацца на кантрактныя абяцанні.

Па-трэцяе, MIND-SAFE сфармуляваны ў 2025 годзе — рэгулятыўны ландшафт хутка мяняецца. У ЕС надыходзіць AI Act для high-risk прымяненняў у ахове здароўя, і лакальныя патрабаванні могуць апынуцца больш строгімі за асобныя пункты фрэймворка.

Нарэшце, MIND-SAFE не замяняе клінічнага назірання. Ohu et al. (2024) падкрэсліваюць: ІІ павінен заставацца supportive, not substitutive — падтрымліваючым, а не замяшчальным. Любы фрэймворк без жывога клініцыста ў пятлі — толькі частка рашэння.

Часта задаваныя пытанні

Што такое MIND-SAFE простымі словамі?

Гэта набор з трох патрабаванняў да ІІ-чат-ботаў для ментальнага здароўя: апора на даказальныя пратаколы тэрапіі, адаптыўнасць да стану карыстальніка і ўбудаваныя этычныя ахоўныя бар'еры. Прапанаваны Boit & Patil у 2025 годзе як стандарт для адказнай распрацоўкі і ўкаранення.

Ці можна выкарыстоўваць ChatGPT як замену ІІ-асістэнту, які адпавядае MIND-SAFE?

Не. Kwesi et al. (2025) паказалі, што карыстальнікі агульных LLM-чат-ботаў сістэматычна недаацэньваюць рызыкі прыватнасці, а Ohu et al. (2024) задакументавалі небяспечныя адказы ў клінічных віньетках. Без асобнага пласта промптаў, крызіснага пратакола і палітыкі дадзеных агульная мадэль не адпавядае MIND-SAFE.

Якія юрыдычныя рызыкі ў клінікі без праверкі ІІ-асістэнта?

Дзве асноўныя: уцечка персанальных дадзеных кліентаў пры бескантрольнай перадачы дыялогаў вендару (камплаенс-рызыка) і рэпутацыйны/грамадзянскі ўрон пры небяспечнай рэакцыі асістэнта на суіцыдальны запыт. Абедзве змякчаюцца патрабаваннямі ўзроўню MIND-SAFE «этычныя бар'еры».

Як MIND-SAFE суадносіцца з EmoAgent і іншымі мультыагентнымі архітэктурамі?

EmoAgent (Qiu et al., 2025) — тэхнічная рэалізацыя адаптыўнага пласта праз мультыагентную сістэму з мадэратарамі. MIND-SAFE фармулюе, што павінна быць рэалізавана; EmoAgent — прыклад таго, як гэта можна зрабіць. Глядзі таксама ІІ-страхоўка: як мультыагентная архітэктура абараняе ўразлівых карыстальнікаў.

Ці патрэбны MIND-SAFE прыватнаму псіхолагу, калі ён рэкамендуе кліентам старонні дадатак?

Так. Рэкамендуючы дадатак, спецыяліст прымае на сябе частку адказнасці за бяспеку кліента. Праверка па трох апорах MIND-SAFE — мінімальная due diligence, якая зніжае клінічную і юрыдычную рызыку рэкамендацыі.

Практычная выснова

У «Рядом» мы праектавалі архітэктуру асістэнта пад патрабаванні, якія супадаюць з MIND-SAFE: КПТ-пратаколы на ўзроўні сістэмнага промпта, мультыагентны пласт адаптыўнасці з распазнаваннем крызісу і прыватнасць-by-design — змест дыялогу кліента не перадаецца ні тэрапеўту, ні трэцім бакам. Калі вы вядзеце прыватную практыку, клініку ці карпаратыўную праграму і думаеце пра ўкараненне ІІ-асістэнта — пачніце не з функцыянальнасці, а з трох апор. Усё астатняе правяраецца хутчэй.

Крыніцы

Boit, S., & Patil, R. (2025). A prompt engineering framework for large language model–based mental health chatbots: Conceptual framework. JMIR Mental Health.

Boit, S., & Patil, R. (2025). A prompt engineering framework for large language model-based mental health chatbots: Design principles and insights for AI-supported care. JMIR Mental Health.

De Choudhury, M., Pendse, S. R., & Kumar, N. (2023). Benefits and harms of large language models in digital mental health. arXiv. https://doi.org/10.48550/arxiv.2311.14693

Kwesi, J., Cao, J., Manchanda, R., & Emami-Naeini, P. (2025). Exploring user security and privacy attitudes and concerns toward the use of general-purpose LLM chatbots for mental health. arXiv. https://doi.org/10.48550/arxiv.2507.10695

Li, H., Zhang, R., Lee, Y.-C., Kraut, R. E., & Mohr, D. C. (2023). Systematic review and meta-analysis of AI-based conversational agents for promoting mental health and well-being. NPJ Digital Medicine, 6(1), 236. https://doi.org/10.1038/s41746-023-00979-5

Ma, Z., Mei, Y., & Su, Z. (2023). Understanding the benefits and challenges of using large language model-based conversational agents for mental well-being support. AMIA Annual Symposium Proceedings. https://doi.org/10.48550/arxiv.2307.15810

Ni, Y., & Jia, F. (2025). A scoping review of AI-driven digital interventions in mental health care: Mapping applications across screening, support, monitoring, prevention, and clinical education.

Obradovich, N., Khalsa, S., Khan, W. U., Suh, J., Perlis, R. H., Ajilore, O., & Paulus, M. P. (2024). Opportunities and risks of large language models in psychiatry. NPP — Digital Psychiatry and Neuroscience. https://doi.org/10.1038/s44277-024-00010-z

Ohu, F. C., Burrell, D., & Jones, L. A. (2024). Public health risk management, policy, and ethical imperatives in the use of AI tools for mental health therapy.

Qiu, J., He, Y., Juan, X., Wang, Y., Liu, Y., Yao, Z., Wu, Y., Jiang, X., Yang, L., & Wang, M. (2025). EmoAgent: Assessing and safeguarding human-AI interaction for mental health safety. arXiv. https://doi.org/10.48550/arxiv.2504.09689

Ufniarski, T., Ufniarska, M., Piech, A., Pasierb, K., Poplicha, K., Grodzińska, M., et al. (2025). Large language model based chatbots — A chance for closing the mental health treatment gap or a threat to the public health? A narrative review. International Journal of Innovative Technologies in Social Science. https://doi.org/10.31435/ijitss.3(47).2025.3809