Мета-аналіз 35 даследаванняў з удзелам больш за 4000 карыстальнікаў выявіў трывожны факт: толькі 43% ІІ-сістэм для ментальнага здароўя ўтрымлівалі хаця б мінімальныя меры бяспекі (Li et al., 2023). Астатнія 57% — моўныя мадэлі без спецыялізаваных промптаў, пратаколаў крызіснага рэагавання і тэрапеўтычных абмежаванняў. Менавіта промпт-інжынерыя вызначае, ці стане чат-бот інструментам дапамогі або крыніцай шкоды.

Чаму звычайная моўная мадэль небяспечная ў ролі псіхолага?

Вялікія моўныя мадэлі навучаны генераваць праўдападобны тэкст, а не аказваць тэрапеўтычную дапамогу. Розніца прынцыповая. Ma et al. (2023) у аглядзе, які набраў 140 цытаванняў, вылучылі ключавыя рызыкі: LLM могуць падмацоўваць кагнітыўныя скажэнні карыстальніка, даваць небяспечныя парады пры суіцыдальных думках і ствараць ілжывае адчуванне тэрапеўтычнага альянсу без рэальнай клінічнай карысці.

De Choudhury et al. (2023) канкрэтызавалі пагрозу: стандартныя LLM схільныя да «тэрапеўтычнага дрэйфу» — мадэль пачынае з эмпатычных адказаў, але пры працяглым дыялогу губляе тэрапеўтычны кірунак і пачынае згаджацца з дэструктыўнымі перакананнямі карыстальніка. Гэты эфект узмацняецца тым, што мадэлі аптымізаваны на задавальненне карыстальніка (helpfulness), а не на клінічную эфектыўнасць.

Song et al. (2024) у даследаванні «The Typing Cure» зафіксавалі парадокс: карыстальнікі высока ацэньваюць эмпатыю LLM-чат-ботаў, але пры гэтым часта атрымліваюць адказы, якія нармалізуюць пазбягальніцкія паводзіны замест мяккага выкліку. Удзельнікі адзначалі, што «бот кажа тое, што хочаш пачуць, а не тое, што трэба» — прамая супрацьлегласць тэрапеўтычнай задачы.

Праблема не ў тэхналогіі як такой — а ў адсутнасці структураванай промпт-інжынерыі, якая ўбудоўвае тэрапеўтычныя пратаколы ў саму архітэктуру ўзаемадзеяння.

Што прапануе фрэймворк Boit & Patil?

Boit & Patil (2025) распрацавалі трохузроўневую архітэктуру промптаў для ментальнага здароўя, якая вырашае кожную з апісаных рызык на асобным узроўні.

Узровень 1: доказныя тэрапеўтычныя мадэлі. Сістэмны промпт не проста задае «ролю псіхолага» — ён апісвае канкрэтны тэрапеўтычны пратакол. Для КПТ гэта азначае ўбудаваныя інструкцыі па кагнітыўнай рэструктурызацыі: выяўленне аўтаматычных думак, праверка доказаў, генерацыя альтэрнатыўных інтэрпрэтацый. Для матывацыйнага інтэрв'юявання — фармулёўкі адкрытых пытанняў і тэхнікі працы з амбівалентнасцю.

Узровень 2: адаптыўная тэхналогія. Промпты ўключаюць механізмы адсочвання кантэксту дыялогу — эмацыйнай дынамікі, стадыі тэрапеўтычнага працэсу і ўзроўню ўцягнутасці. Мадэль павінна адаптаваць стыль адказу не толькі да зместу рэплікі, але і да траекторыі ўсёй размовы.

Узровень 3: этычныя агароджы. Жорсткія правілы, якія промпт не можа парушыць: распазнаванне крызісных маркераў, неадкладнае перанакіраванне да экстранных службаў, забарона на дыягностыку і прызначэнне прэпаратаў, празрыстасць пра сваю прыроду як ІІ.

Ключавая ідэя фрэймворку — промпт-інжынерыя для ментальнага здароўя не абмяжоўваецца адным сістэмным паведамленнем. Гэта архітэктурнае рашэнне, дзе кожны ўзровень працуе незалежна і страхуе астатнія.

Як MIND-SAFE ператварае тэорыю ў практыку?

Тыя ж аўтары (Boit & Patil, 2025) развілі канцэптуальны фрэймворк у практычнае кіраўніцтва MIND-SAFE, апублікаванае ў JMIR. Калі першая праца адказвала на пытанне «навошта патрэбна спецыялізаваная промпт-інжынерыя», то MIND-SAFE адказвае на пытанне «як менавіта яе рэалізаваць».

MIND-SAFE расшыфроўваецца як набор прынцыпаў: маніторынг стану, інфармаванае ўзаемадзеянне, ненавязлівая падтрымка, дыялагічная адаптацыя, бяспека, празрыстасць, фідбэк-петлі, этычная адпаведнасць. Кожны прынцып транслюецца ў канкрэтныя патрабаванні да промптаў.

Напрыклад, прынцып маніторынгу азначае, што кожны адказ мадэлі павінен унутрана класіфікаваць эмацыйны стан карыстальніка па шкале ад «стабільны» да «крызісны» — і адаптаваць не толькі змест, але і тон, даўжыню адказу і ступень дырэктыўнасці. Прынцып празрыстасці патрабуе, каб мадэль перыядычна нагадвала пра свае абмежаванні, а не толькі ў вітальным паведамленні.

Гэтыя прынцыпы пераклікаюцца з пытаннямі этыкі ІІ ў псіхатэрапіі, дзе аўтаномія пацыента і інфармаваная згода разглядаюцца як абавязковыя ўмовы лічбавай тэрапіі.

Як выглядаюць структураваныя промпты на практыцы?

Абстрактныя прынцыпы становяцца больш зразумелымі на канкрэтных рэалізацыях. SuDoSys (Chen et al., 2024) — структураваны LLM-чат-бот, пабудаваны на кіраўніцтвах СГА па псіхалагічным умяшанні PM+. Замест аднаго маналітнага промпту сістэма выкарыстоўвае ланцужок спецыялізаваных інструкцый, кожная з якіх адпавядае этапу PM+: кіраванне стрэсам, рашэнне праблем, паводніцкая актывацыя, умацаванне сацыяльнай падтрымкі.

Кожны модуль SuDoSys утрымлівае тры кампаненты: тэрапеўтычную мэту бягучага этапу, крытэрыі пераходу да наступнага этапу і «чырвоныя сцягі», пры якіх сістэма перарывае пратакол і пераключаецца ў рэжым крызіснага рэагавання (Chen et al., 2024). Гэта прамое ўвасабленне трохузроўневай архітэктуры Boit & Patil.

Іншы падыход прапанавалі Yu & McGuinness (2024): гібрыдная мадэль, дзе файн-цюнінг на тэрапеўтычных дыялогах дапаўняецца спецыялізаванымі промптамі. Файн-цюнінг забяспечвае базавы тэрапеўтычны тон і слоўнік, а промпты кіруюць логікай сесіі — парадкам пытанняў, глыбінёй даследавання праблемы і момантам пераходу да тэхнік. Гэты падыход паказаў паляпшэнне тэрапеўтычнай рэлевантнасці адказаў у параўнанні як з чыстым файн-цюнінгам, так і з чыстым промптынгам.

Навошта патрэбны асобны ўзровень бяспекі?

Нават ідэальна спраектаваны тэрапеўтычны промпт можа даць збой. Даследаванне EmoAgent (Qiu et al., 2025) колькасна давяло гэта: 34% узаемадзеянняў з чат-ботамі без абаронных механізмаў прыводзілі да пагаршэння паказчыкаў дэпрэсіі ва ўразлівых карыстальнікаў.

Рашэнне — вылучаны модуль бяспекі, які працуе паралельна з тэрапеўтычным. EmoGuard у архітэктуры EmoAgent аналізуе кожны адказ бота да яго адпраўкі па чатырох параметрах: наяўнасць кагнітыўных скажэнняў, заахвочванне ізаляцыі, адсутнасць эмпатыі і негатыўны тон. Вынік — зніжэнне клінічна значнай шкоды да 0% (Qiu et al., 2025). Падрабязны разбор гэтай сістэмы — у артыкуле пра guard rails для ІІ-псіхолага.

Гэты падыход узгадняецца з трэцім узроўнем фрэймворку Boit & Patil: этычныя агароджы павінны быць не часткай тэрапеўтычнага промпту, а асобнай сістэмай, якая правярае выхад мадэлі. Адзін промпт не можа адначасова быць эмпатычным тэрапеўтам і строгім цэнзарам — гэтыя задачы канфліктуюць.

Якія абмежаванні промпт-інжынерыі для ментальнага здароўя?

Фрэймворк Boit & Patil — канцэптуальная праца, а не клінічнае выпрабаванне. Аўтары не апублікавалі вынікаў тэсціравання на рэальных пацыентах. Гэта агульная праблема вобласці: Ma et al. (2023) адзначаюць, што большасць прапаноў па ІІ-тэрапіі існуюць на ўзроўні прататыпаў, якія не прайшлі рандамізаваных кантраляваных даследаванняў.

Промпт-інжынерыя сама па сабе не вырашае праблему «галюцынацый» — мадэль можа ўпэўнена спаслацца на неіснуючыя тэрапеўтычныя тэхнікі. Акрамя таго, De Choudhury et al. (2023) падкрэсліваюць рызыку культурнай нечуласці: промпты, распрацаваныя на англамоўных даных, могуць быць неадэкватнымі ў іншых культурных кантэкстах.

Застаецца адкрытым пытанне доўгатэрміновых эфектаў. Song et al. (2024) фіксуюць, што карыстальнікі хутка прывязваюцца да ІІ-тэрапеўтаў, але даных пра ўплыў такога выкарыстання на працягу месяцаў няма. Промпт можа карэктна апрацоўваць асобны сеанс, але тэрапія — гэта працэс, які патрабуе паслядоўнасці паміж сесіямі.

Нарэшце, Li et al. (2023) ўказваюць на праблему празрыстасці дыягнастычных рашэнняў: карыстальнік не можа праверыць, па якім пратаколе працуе сістэма і чаму яна абрала менавіта гэтую інтэрвенцыю.

Як абраць ІІ-тэрапеўта з бяспечнай промпт-архітэктурай?

Для карыстальніка, які выбірае ІІ-сістэму для падтрымкі ментальнага здароўя, фрэймворк Boit & Patil транслюецца ў канкрэтныя крытэрыі:

Указаны тэрапеўтычны пратакол. Калі сістэма заяўляе «КПТ-падыход» або «матывацыйнае інтэрв'юяванне» — гэта прыкмета структураванай промпт-архітэктуры, а не генератыўнай мадэлі без абмежаванняў
Ёсць крызіснае рэагаванне. Сістэма распазнае маркеры суіцыдальнага рызыку і неадкладна пераключаецца на пратакол бяспекі з кантактамі экстранных службаў
Празрыстасць пра прыроду ІІ. Бот не маскіруецца пад чалавека і перыядычна нагадвае пра свае абмежаванні
Асобны модуль бяспекі. Адказы правяраюцца незалежнай сістэмай да адпраўкі карыстальніку — як EmoGuard у даследаванні Qiu et al. (2025)
Адаптацыя да кантэксту. Сістэма ўлічвае не толькі апошнюю рэпліку, але і дынаміку ўсяго дыялогу

«Рядом» рэалізуе гэтыя прынцыпы праз мультыўзроўневую промпт-архітэктуру з убудаванымі КПТ-пратаколамі, незалежным модулем крызіснага маніторынгу і адаптыўнай сістэмай, якая адсочвае эмацыйную траекторыю дыялогу.

Частыя пытанні

Што такое промпт-інжынерыя ў кантэксце ІІ-псіхолага?

Гэта праектаванне сістэмных інструкцый, якія вызначаюць паводзіны моўнай мадэлі ў тэрапеўтычным кантэксце. У адрозненне ад звычайнага промптынгу, тут патрабуецца шматузроўневая архітэктура: тэрапеўтычныя пратаколы, адаптыўны кантэкст і этычныя агароджы (Boit & Patil, 2025).

Ці можна зрабіць ІІ-тэрапеўта бяспечным толькі праз промпты?

Промпты неабходныя, але недастатковыя. Даследаванне EmoAgent паказала, што найбольшую эфектыўнасць дае вылучаны модуль бяспекі, які працуе паралельна з тэрапеўтычным промптам і правярае кожны адказ да адпраўкі (Qiu et al., 2025).

Чым структураваны ІІ-тэрапеўт адрозніваецца ад ChatGPT?

ChatGPT — універсальная мадэль без спецыялізаваных тэрапеўтычных пратаколаў. Структураваныя сістэмы накшталт SuDoSys выкарыстоўваюць ланцужкі промптаў, прывязаныя да канкрэтных этапаў доказнай тэрапіі, з крытэрыямі пераходу і крызіснымі трыгерамі (Chen et al., 2024).

Ці існуюць клінічныя доказы эфектыўнасці такіх сістэм?

Мета-аналіз Li et al. (2023) пацвярджае эфектыўнасць ІІ-агентаў для ментальнага здароўя пры наяўнасці структураваных пратаколаў. Аднак большасць фрэймворкаў промпт-інжынерыі, уключаючы працу Boit & Patil, яшчэ не прайшлі рандамізаваных клінічных выпрабаванняў — гэта галоўнае абмежаванне вобласці.

Якія тэрапеўтычныя падыходы лепш за ўсё адаптуюцца да промпт-інжынерыі?

КПТ і PM+ найбольш вывучаны ў кантэксце ІІ-рэалізацыі. КПТ добра структуравана па этапах (выяўленне думак, ацэнка доказаў, рэструктурызацыя), што напрамую транслюецца ў ланцужкі промптаў. PM+ Сусветнай арганізацыі аховы здароўя выкарыстана ў SuDoSys з аналагічным модульным падыходам (Chen et al., 2024; Yu & McGuinness, 2024).

Крыніцы

Boit, S., & Patil, R. (2025). A prompt engineering framework for large language model–based mental health chatbots: Design principles and insights for AI-supported care.

Boit, S., & Patil, R. (2025). MIND-SAFE: A practical foundation for developing AI-driven mental health interventions. JMIR.

Li, H., Zhang, R., Lee, Y.-C., Kraut, R. E., & Mohr, D. C. (2023). Systematic review and meta-analysis of AI-based conversational agents for promoting mental health and well-being. NPJ Digital Medicine, 6(1), 236. https://doi.org/10.1038/s41746-023-00979-5

De Choudhury, M., Pendse, S. R., & Kumar, N. (2023). Benefits and harms of large language models in digital mental health. ArXiv. https://doi.org/10.48550/arxiv.2311.14693

Ma, Z., Mei, Y., & Su, Z. (2023). Understanding the benefits and challenges of using large language model-based conversational agents for mental well-being support. AMIA Annual Symposium Proceedings. https://doi.org/10.48550/arxiv.2307.15810

Song, I., Pendse, S. R., Kumar, N., & De Choudhury, M. (2024). The typing cure: Experiences with large language model chatbots for mental health support. Proceedings of the ACM on Human-Computer Interaction. https://doi.org/10.1145/3757430

Qiu, J., He, Y., Juan, X., Wang, Y., Liu, Y., Yao, Z., Wu, Y., Jiang, X., Yang, L., & Wang, M. (2025). EmoAgent: Assessing and safeguarding human-AI interaction for mental health safety. ArXiv. https://doi.org/10.48550/arxiv.2504.09689

Chen, Y., Zhang, X., Wang, J., Xie, X., Yan, N., Chen, H., & Wang, L. (2024). Structured dialogue system for mental health: An LLM chatbot leveraging the PM+ guidelines. ArXiv. https://doi.org/10.48550/arxiv.2411.10681

Yu, H. Q., & McGuinness, S. (2024). An experimental study of integrating fine-tuned large language models and prompts for enhancing mental health support chatbot system. Journal of Medical Artificial Intelligence, 7. https://doi.org/10.21037/jmai-23-136