Моўная мадэль памерам 280 мегабайт, запушчаная прама на Android-смартфоне, здольная весці тэрапеўтычны дыялог з хуткасцю 17 токенаў у секунду — і пры гэтым ніводзін байт інфармацыі не пакідае прыладу. Гэта не канцэпт і не слайд на канферэнцыі: такую сістэму — MoPHES — стварылі даследчыкі Вэй, Чжоу і Ван і апісалі ў часопісе IEEE ў 2025 годзе.

Чаму прыватнасць — цэнтральная праблема лічбавай тэрапіі?

Паводле дадзеных СУА, больш за 70% людзей з псіхічнымі расстройствамі так і не звяртаюцца па дапамогу. Сярод прычын — стыгма і страх, што асабістая інфармацыя ўцячэ. Гэты страх абгрунтаваны: нават у навуковых даследаваннях этычныя камітэты забараняюць перадаваць рэальныя дадзеныя тэрапеўтычных сесій для аналізу. Калі прыватнасць немагчыма гарантаваць у лабараторных умовах — што казаць пра масавыя дадаткі?

Традыцыйныя анлайн-сэрвісы псіхалагічнай падтрымкі, у тым ліку чат-боты, якія паказалі эфектыўнасць у клінічных выпрабаваннях, працуюць праз воблака. Кожнае паведамленне сыходзіць на аддалены сервер, апрацоўваецца і вяртаецца. Нават пры скразным шыфраванні дадзеныя дзесьці захоўваюцца — і тэарэтычна могуць быць скампраметаваныя.

Што такое on-device мадэль і як яна працуе?

On-device азначае літаральна: мадэль працуе на вашым тэлефоне. Няма сервера, няма воблака, няма інтэрнэт-злучэння. MoPHES выкарыстоўвае два кампактныя моўныя модулі па 0,5 мільярда параметраў кожны, запушчаныя праз фрэймворк llama.cpp. Пасля квантызацыі Q4_K_M кожная мадэль займае каля 280 МБ — менш, чым сярэдняя мабільная гульня.

На тэставай прыладзе Xiaomi 13 Ultra (8 ядзер, 16 ГБ аператыўнай памяці) сістэма генеруе адказы ў дыялогу з хуткасцю 17,3 токена ў секунду. Ацэнка псіхічнага стану займае 4,2 секунды. Гэта камфортная хуткасць — карыстальнік не адчувае затрымкі.

Навошта патрэбныя два модулі замест аднаго?

Архітэктура MoPHES раздзяляе задачы. Адзін модуль вядзе дыялог — адказвае на рэплікі карыстальніка, задае ўдакладняючыя пытанні, выкарыстоўвае тэхнікі падтрымліваючых зносін. Другі модуль працуе як аналітык: ён ацэньвае псіхічны стан у ходзе гутаркі і захоўвае вынікі ў лакальны канфігурацыйны файл на прыладзе.

Гэтае раздзяленне важнае: дыялогавая мадэль можа быць эмпатычнай і вольнай у фармулёўках, тады як аналітычная — строгай і структураванай. Агент здабывае гісторыю папярэдніх сесій з лакальнай памяці, каб персаналізаваць кожную наступную гутарку. Усё гэта — без адзінага звароту да сервера.

Што гэта значыць для амаль мільярда людзей?

Паводле ацэнак СУА, амаль мільярд чалавек у свеце мае патрэбу ў падтрымцы псіхічнага здароўя. Большасць з іх не атрымлівае дапамогі — з-за нястачы спецыялістаў, кошту тэрапіі, геаграфічнай аддаленасці ці страху асуджэння. Чат-боты для псіхічнага здароўя ўжо даказалі сваю эфектыўнасць прынамсі пры лёгкіх і ўмераных сімптомах (Abd-Alrazaq і інш., 2020).

Але давер застаецца вузкім месцам. Даследаванне Сон і калег (2024) паказала: карыстальнікі гатовыя адкрывацца ШІ-субяседніку, але толькі калі ўпэўнены, што іх словы не будуць прачытаны трэцім бокам. On-device мадэлі здымаюць гэты бар'ер тэхнічна, а не юрыдычна — дадзеныя проста фізічна не пакідаюць прыладу.

Якія абмежаванні ёсць у on-device падыходу?

Было б несумленна прамаўчаць пра межы. Мадэлі ў 0,5 мільярда параметраў значна саступаюць воблачным аналагам па глыбіні і гнуткасці адказаў. Яны добра спраўляюцца са структураванымі задачамі — скрынінг, падтрымліваючы дыялог па пратаколе — але для складанай псіхатэрапеўтычнай працы іх пакуль недастаткова.

Акрамя таго, не ўсе смартфоны маюць 16 ГБ аператыўнай памяці. Для масавага распаўсюджвання патрэбныя яшчэ больш кампактныя мадэлі або гібрыдны падыход: базавыя функцыі на прыладзе, а пашыраныя — у воблаку са згоды карыстальніка. Важна таксама памятаць, што лічбавыя інструменты маніторынгу ставяць уласныя пытанні пра межы збору дадзеных.

Што далей?

MoPHES — першая цалкам аўтаномная сістэма ШІ-падтрымкі псіхічнага здароўя, якая працуе на мабільнай прыладзе. Яна дэманструе, што прыватнасць і даступнасць не абавязаны супярэчыць адно аднаму. Па меры развіцця тэхналогій квантызацыі і аптымізацыі мабільных чыпаў on-device мадэлі стануць яшчэ кампактнейшымі і дакладнейшымі.

Ужо зараз сэрвісы накшталт «Рядом» выкарыстоўваюць доказныя падыходы да падтрымкі псіхічнага здароўя. А па меры таго як этычныя стандарты ШІ ў псіхатэрапіі становяцца яснейшымі, мяжа паміж лабараторным эксперыментам і паўсядзённым інструментам клопату пра сябе працягвае сціраецца.

Частыя пытанні

Ці можа ШІ на тэлефоне замяніць псіхатэрапеўта?

Не. On-device мадэлі падыходзяць для падтрымліваючага дыялогу, скрынінгу і маніторынгу стану, але не для паўнавартаснай псіхатэрапіі. Яны дапаўняюць, а не замяняюць працу з жывым спецыялістам.

Наколькі дакладныя кампактныя мадэлі ў параўнанні з GPT-4 і падобнымі?

Мадэлі ў 0,5 мільярда параметраў прыкметна саступаюць буйным воблачным мадэлям у генерацыі вольнага тэксту. Аднак для вузкіх задач — структураваная ацэнка настрою, падтрымліваючыя адказы па пратаколе — іх дакладнасць дастатковая для практычнага прымянення.

Ці праўда, што дадзеныя наогул нікуды не адпраўляюцца?

У архітэктуры MoPHES — так. Мадэль працуе цалкам афлайн, усе запісы захоўваюцца лакальна. Аднак кожны канкрэтны дадатак можа рэалізаваць гэтую архітэктуру па-рознаму, таму заўсёды варта правяраць палітыку канфідэнцыяльнасці сэрвісу.

Які смартфон патрэбны для запуску такой мадэлі?

Даследчыкі тэсціравалі на Xiaomi 13 Ultra з 16 ГБ аператыўнай памяці. Для камфортнай працы пажаданая прылада з 8+ ГБ RAM і сучасным працэсарам. Па меры аптымізацыі мадэляў патрабаванні будуць зніжацца.