4000-нан астам пайдаланушы қатысқан 35 зерттеудің мета-талдауы алаңдатарлық фактіні анықтады: ментальді денсаулыққа арналған ЖИ-жүйелердің тек 43%-ында ең аз қауіпсіздік шаралары болған (Li et al., 2023). Қалған 57% — мамандандырылған промпттары, дағдарысқа жауап беру хаттамалары мен терапиялық шектеулері жоқ тілдік модельдер. Чатбот көмек құралы бола ма, әлде зиян көзі бола ма — оны промпт-инженерия анықтайды.

Неге қарапайым тілдік модель психолог рөлінде қауіпті?

Үлкен тілдік модельдер нанымды мәтін генерациялауға үйретілген, терапиялық көмек көрсетуге емес. Айырмашылық түбегейлі. Ma et al. (2023) 140 дәйексөз жинаған шолуда негізгі тәуекелдерді анықтады: LLM пайдаланушының когнитивтік бұрмалануларын нығайтуы, суицидтік ойлар кезінде қауіпті кеңес беруі және нақты клиникалық пайдасыз жалған терапиялық альянс сезімін туғызуы мүмкін.

De Choudhury et al. (2023) қауіпті нақтылады: стандартты LLM-дер «терапиялық дрейфке» бейім — модель эмпатиялық жауаптардан бастайды, бірақ ұзақ диалогта терапиялық бағыттан ауытқып, пайдаланушының деструктивті сенімдерімен келісе бастайды. Бұл әсер модельдердің клиникалық тиімділікке емес, пайдаланушы қанағатына (helpfulness) оңтайландырылуымен күшейе түседі.

Song et al. (2024) «The Typing Cure» зерттеуінде парадокс тіркеді: пайдаланушылар LLM-чатботтардың эмпатиясын жоғары бағалайды, бірақ жиі жұмсақ мінсітудің орнына болдырмау мінез-құлқын қалыпқа келтіретін жауаптар алады. Қатысушылар «бот саған қажетті нәрсені емес, естігісі келгенді айтады» деп атап өтті — бұл терапиялық міндетке тікелей қарама-қайшы.

Мәселе технологияда емес — терапиялық хаттамаларды өзара әрекеттесу архитектурасына кіріктіретін құрылымдалған промпт-инженерияның жоқтығында.

Boit & Patil фреймворкі нені ұсынады?

Boit & Patil (2025) ментальді денсаулыққа арналған үш деңгейлі промпт архитектурасын жасады, ол сипатталған тәуекелдердің әрқайсысын жеке деңгейде шешеді.

1-деңгей: дәлелдемеге негізделген терапиялық модельдер. Жүйелік промпт жай ғана «психолог рөлін» бермейді — нақты терапиялық хаттаманы сипаттайды. КМТ үшін бұл когнитивті қайта құрылымдау бойынша кіріктірілген нұсқауларды білдіреді: автоматты ойларды анықтау, дәлелдемелерді тексеру, балама түсіндірмелер генерациялау. Мотивациялық сұхбат үшін — ашық сұрақтар мен амбиваленттілікпен жұмыс техникалары.

2-деңгей: адаптивті технология. Промпттар диалог контекстін бақылау тетіктерін қамтиды — эмоциялық динамика, терапиялық процестің кезеңі және қатысу деңгейі. Модель жауап стилін тек репликаның мазмұнына ғана емес, бүкіл сөйлесудің траекториясына сәйкестендіруі тиіс.

3-деңгей: этикалық қоршаулар. Промпт бұза алмайтын қатаң ережелер: дағдарыс маркерлерін тану, жедел қызметтерге дереу бағыттау, диагноз қою мен дәрі тағайындауға тыйым, ЖИ табиғаты туралы ашықтық.

Фреймворктің негізгі идеясы — ментальді денсаулыққа арналған промпт-инженерия бір жүйелік хабарламамен шектелмейді. Бұл архитектуралық шешім, мұнда әр деңгей тәуелсіз жұмыс істеп, қалғандарын сақтандырады.

MIND-SAFE теорияны практикаға қалай аударады?

Сол авторлар (Boit & Patil, 2025) концептуалды фреймворкті JMIR-де жарияланған MIND-SAFE практикалық нұсқаулығына дейін дамытты. Бірінші жұмыс «мамандандырылған промпт-инженерия неге қажет?» деген сұраққа жауап берсе, MIND-SAFE «оны қалай нақты іске асыру керек?» деген сұраққа жауап береді.

MIND-SAFE принциптер жиынтығы ретінде шешіледі: жағдайды мониторингтеу, хабардар өзара әрекеттесу, ұстамды қолдау, диалогтық бейімделу, қауіпсіздік, ашықтық, кері байланыс тізбектері, этикалық сәйкестік. Әр принцип промпттарға нақты талаптарға айналады.

Мысалы, мониторинг принципі модельдің әр жауабында пайдаланушының эмоциялық жағдайын «тұрақтыдан» «дағдарысқа» дейінгі шкала бойынша ішкі классификациялау керектігін білдіреді — және мазмұнды ғана емес, тонды, жауап ұзындығын және директивтілік дәрежесін де бейімдеу. Ашықтық принципі модельдің тек қарсы алу хабарламасында ғана емес, мезгіл-мезгіл өз шектеулері туралы еске салуын талап етеді.

Бұл принциптер психотерапиядағы ЖИ этикасы мәселелерімен үндеседі, онда пациент автономиясы мен хабардар келісім цифрлық терапияның міндетті шарттары ретінде қарастырылады.

Құрылымдалған промпттар іс жүзінде қалай көрінеді?

Абстрактілі принциптер нақты іске асыруларда анық бола түседі. SuDoSys (Chen et al., 2024) — ДДҰ-ның PM+ психологиялық интервенция нұсқаулықтарына негізделген құрылымдалған LLM-чатбот. Бір монолитті промпттың орнына жүйе мамандандырылған нұсқаулар тізбегін пайдаланады, олардың әрқайсысы PM+ кезеңіне сәйкес келеді: стрессті басқару, мәселелерді шешу, мінез-құлықтық белсендіру, әлеуметтік қолдауды нығайту.

SuDoSys-тің әр модулі үш құрамдас бөліктен тұрады: ағымдағы кезеңнің терапиялық мақсаты, келесі кезеңге көшу критерийлері және жүйенің хаттаманы тоқтатып, дағдарысқа жауап беру режиміне ауысатын «қызыл жалаулар» (Chen et al., 2024). Бұл Boit & Patil үш деңгейлі архитектурасының тікелей жүзеге асырылуы.

Басқа тәсілді Yu & McGuinness (2024) ұсынды: терапиялық диалогтарда файн-тюнинг мамандандырылған промпттармен толықтырылатын гибридті модель. Файн-тюнинг базалық терапиялық тон мен сөздікті қамтамасыз етеді, ал промпттар сеанстың логикасын — сұрақтар ретін, мәселені зерттеу тереңдігін және техникаларға көшу сәтін — басқарады. Бұл тәсіл таза файн-тюнингпен де, таза промптингпен де салыстырғанда жауаптардың терапиялық сәйкестігін жақсартты.

Неге бөлек қауіпсіздік деңгейі қажет?

Тіпті мінсіз жобаланған терапиялық промпт та ақаулық беруі мүмкін. EmoAgent зерттеуі (Qiu et al., 2025) мұны сандық түрде дәлелдеді: қорғаныс тетіктері жоқ чатботтармен өзара әрекеттесулердің 34%-ы осал пайдаланушылардың депрессия көрсеткіштерінің нашарлауына әкелді.

Шешім — терапиялық модульмен қатар жұмыс істейтін арнайы қауіпсіздік модулі. EmoAgent архитектурасындағы EmoGuard боттың әр жауабын жіберер алдында төрт параметр бойынша талдайды: когнитивтік бұрмалану бар-жоғы, оқшаулауды ынталандыру, эмпатияның болмауы және жағымсыз тон. Нәтиже — клиникалық маңызды зиянды 0%-ға дейін төмендету (Qiu et al., 2025). Бұл жүйенің егжей-тегжейлі талдауы — ЖИ-психолог үшін guard rails туралы мақалада.

Бұл тәсіл Boit & Patil фреймворкінің үшінші деңгейімен сәйкес келеді: этикалық қоршаулар терапиялық промпттың бөлігі емес, модель шығысын тексеретін бөлек жүйе болуы тиіс. Бір промпт бір мезгілде эмпатиялық терапевт те, қатаң цензор да бола алмайды — бұл міндеттер бір-біріне қайшы келеді.

Ментальді денсаулыққа арналған промпт-инженерияның шектеулері қандай?

Boit & Patil фреймворкі — клиникалық сынақ емес, концептуалды жұмыс. Авторлар нақты пациенттерде сынау нәтижелерін жарияламаған. Бұл саланың жалпы мәселесі: Ma et al. (2023) ЖИ-терапия бойынша көптеген ұсыныстар рандомизацияланған бақыланатын зерттеулерден өтпеген прототиптер деңгейінде екенін атап өтеді.

Промпт-инженерияның өзі «галлюцинация» мәселесін шешпейді — модель жоқ терапиялық техникаларға сенімді түрде сілтеме жасауы мүмкін. Сонымен қатар, De Choudhury et al. (2023) мәдени сезімталсыздық тәуекелін атап көрсетеді: ағылшын тіліндегі деректерде жасалған промпттар басқа мәдени контексттерде бейімсіз болуы мүмкін.

Ұзақ мерзімді әсерлер мәселесі ашық қалып отыр. Song et al. (2024) пайдаланушылардың ЖИ-терапевттерге тез бауыр басатынын тіркейді, бірақ осындай пайдаланудың айлар бойына әсері туралы деректер жоқ. Промпт жеке сеансты дұрыс өңдей алады, бірақ терапия — сеанстар арасындағы бірізділікті қажет ететін процесс.

Ақырында, Li et al. (2023) диагностикалық шешімдердің ашықтығы мәселесін көрсетеді: пайдаланушы жүйенің қандай хаттама бойынша жұмыс істейтінін және осы интервенцияны неге таңдағанын тексере алмайды.

Қауіпсіз промпт-архитектуралы ЖИ-терапевтті қалай таңдауға болады?

Ментальді денсаулықты қолдау үшін ЖИ-жүйені таңдайтын пайдаланушыға Boit & Patil фреймворкі нақты критерийлерге аударылады:

Терапиялық хаттама көрсетілген. Жүйе «КМТ-тәсіл» немесе «мотивациялық сұхбат» деп мәлімдесе — бұл шектеусіз генеративті модель емес, құрылымдалған промпт-архитектураның белгісі
Дағдарысқа жауап беру бар. Жүйе суицидтік тәуекел маркерлерін анықтап, жедел қызметтердің байланыс ақпаратымен қауіпсіздік хаттамасына дереу ауысады
ЖИ табиғаты туралы ашықтық. Бот адамға ұқсанбайды және мезгіл-мезгіл өз шектеулері туралы еске салады
Бөлек қауіпсіздік модулі. Жауаптар пайдаланушыға жіберер алдында тәуелсіз жүйемен тексеріледі — Qiu et al. (2025) зерттеуіндегі EmoGuard сияқты
Контекстке бейімделу. Жүйе тек соңғы репликаны ғана емес, бүкіл диалогтың динамикасын ескереді

«Рядом» бұл принциптерді кіріктірілген КМТ-хаттамалары бар көп деңгейлі промпт-архитектура, дағдарысты мониторингтейтін тәуелсіз модуль және диалогтың эмоциялық траекториясын бақылайтын адаптивті жүйе арқылы жүзеге асырады.

Жиі қойылатын сұрақтар

ЖИ-психолог контексіндегі промпт-инженерия дегеніміз не?

Бұл терапиялық контексте тілдік модельдің мінез-құлқын анықтайтын жүйелік нұсқауларды жобалау. Қарапайым промптингтен айырмашылығы, мұнда көп деңгейлі архитектура қажет: терапиялық хаттамалар, адаптивті контекст және этикалық қоршаулар (Boit & Patil, 2025).

ЖИ-терапевтті тек промпттар арқылы қауіпсіз ету мүмкін бе?

Промпттар қажет, бірақ жеткіліксіз. EmoAgent зерттеуі көрсеткендей, ең жоғары тиімділікті терапиялық промптпен қатар жұмыс істеп, әр жауапты жіберер алдында тексеретін арнайы қауіпсіздік модулі береді (Qiu et al., 2025).

Құрылымдалған ЖИ-терапевт ChatGPT-ден немен ерекшеленеді?

ChatGPT — мамандандырылған терапиялық хаттамалары жоқ әмбебап модель. SuDoSys сияқты құрылымдалған жүйелер дәлелдемеге негізделген терапияның нақты кезеңдеріне байланысты промпт тізбектерін, көшу критерийлерін және дағдарыс триггерлерін пайдаланады (Chen et al., 2024).

Мұндай жүйелердің тиімділігіне клиникалық дәлелдемелер бар ма?

Li et al. (2023) мета-талдауы құрылымдалған хаттамалары бар ЖИ-агенттердің ментальді денсаулық үшін тиімділігін растайды. Алайда промпт-инженерия фреймворктерінің көпшілігі, оның ішінде Boit & Patil жұмысы, рандомизацияланған клиникалық сынақтардан әлі өтпеген — бұл саланың басты шектеуі.

Промпт-инженерияға қандай терапиялық тәсілдер жақсы бейімделеді?

КМТ мен PM+ ЖИ-іске асыру контексінде ең зерттелген. КМТ кезеңдер бойынша жақсы құрылымдалған (ойларды анықтау, дәлелдемелерді бағалау, қайта құрылымдау), бұл промпт тізбектеріне тікелей аударылады. Дүниежүзілік денсаулық сақтау ұйымының PM+ нұсқаулығы SuDoSys-те осындай модульдік тәсілмен пайдаланылған (Chen et al., 2024; Yu & McGuinness, 2024).

Дереккөздер

Boit, S., & Patil, R. (2025). A prompt engineering framework for large language model–based mental health chatbots: Design principles and insights for AI-supported care.

Boit, S., & Patil, R. (2025). MIND-SAFE: A practical foundation for developing AI-driven mental health interventions. JMIR.

Li, H., Zhang, R., Lee, Y.-C., Kraut, R. E., & Mohr, D. C. (2023). Systematic review and meta-analysis of AI-based conversational agents for promoting mental health and well-being. NPJ Digital Medicine, 6(1), 236. https://doi.org/10.1038/s41746-023-00979-5

De Choudhury, M., Pendse, S. R., & Kumar, N. (2023). Benefits and harms of large language models in digital mental health. ArXiv. https://doi.org/10.48550/arxiv.2311.14693

Ma, Z., Mei, Y., & Su, Z. (2023). Understanding the benefits and challenges of using large language model-based conversational agents for mental well-being support. AMIA Annual Symposium Proceedings. https://doi.org/10.48550/arxiv.2307.15810

Song, I., Pendse, S. R., Kumar, N., & De Choudhury, M. (2024). The typing cure: Experiences with large language model chatbots for mental health support. Proceedings of the ACM on Human-Computer Interaction. https://doi.org/10.1145/3757430

Qiu, J., He, Y., Juan, X., Wang, Y., Liu, Y., Yao, Z., Wu, Y., Jiang, X., Yang, L., & Wang, M. (2025). EmoAgent: Assessing and safeguarding human-AI interaction for mental health safety. ArXiv. https://doi.org/10.48550/arxiv.2504.09689

Chen, Y., Zhang, X., Wang, J., Xie, X., Yan, N., Chen, H., & Wang, L. (2024). Structured dialogue system for mental health: An LLM chatbot leveraging the PM+ guidelines. ArXiv. https://doi.org/10.48550/arxiv.2411.10681

Yu, H. Q., & McGuinness, S. (2024). An experimental study of integrating fine-tuned large language models and prompts for enhancing mental health support chatbot system. Journal of Medical Artificial Intelligence, 7. https://doi.org/10.21037/jmai-23-136