Android-смартфонда тікелей іске қосылған 280 мегабайттық тілдік модель секундына 17 токен жылдамдықпен терапиялық диалог жүргізе алады — бұл ретте бірде-бір байт ақпарат құрылғыдан шықпайды. Бұл концепт немесе конференциядағы слайд емес: MoPHES деп аталатын бұл жүйені Вэй, Чжоу және Ван зерттеушілері жасап, 2025 жылы IEEE журналында жариялаған.

Неліктен құпиялылық — цифрлық терапияның басты мәселесі?

ДДҰ деректері бойынша, психикалық бұзылыстары бар адамдардың 70%-дан астамы көмекке жүгінбейді. Себептер арасында — стигма және жеке ақпараттың таралып кетуінен қорқу. Бұл қорқыныш негізді: тіпті ғылыми зерттеулерде этикалық комитеттер терапиялық сессиялардың нақты деректерін талдау үшін беруге тыйым салады. Егер зертханалық жағдайларда құпиялылықты кепілдеу мүмкін болмаса — жаппай қосымшалар туралы не айтуға болады?

Дәстүрлі онлайн психологиялық қолдау сервистері, соның ішінде клиникалық зерттеулерде тиімділігін көрсеткен чат-боттар, бұлт арқылы жұмыс істейді. Әрбір хабарлама қашықтағы серверге жіберіліп, өңделіп, қайтарылады. Тіпті толық шифрлау кезінде деректер бір жерде сақталады — және теориялық тұрғыдан бұзылуы мүмкін.

On-device модель дегеніміз не және ол қалай жұмыс істейді?

On-device сөзбе-сөз мынаны білдіреді: модель сіздің телефоныңызда жұмыс істейді. Сервер жоқ, бұлт жоқ, интернет байланысы жоқ. MoPHES әрқайсысы 0,5 миллиард параметрлі екі ықшам тілдік модульді llama.cpp фреймворкі арқылы іске қосады. Q4_K_M квантизациясынан кейін әрбір модель шамамен 280 МБ орын алады — орташа мобильді ойыннан аз.

Тестілік құрылғыда — Xiaomi 13 Ultra (8 ядро, 16 ГБ жедел жады) — жүйе диалогта секундына 17,3 токен жылдамдықпен жауап генерациялайды. Психикалық күйді бағалау 4,2 секунд алады. Бұл ыңғайлы жылдамдық — пайдаланушы кідірісті сезбейді.

Неге біреудің орнына екі модуль қолданылады?

MoPHES архитектурасы міндеттерді бөледі. Бір модуль диалог жүргізеді — пайдаланушының хабарламаларына жауап береді, нақтылаушы сұрақтар қояды, қолдаушы қарым-қатынас техникаларын қолданады. Екінші модуль аналитик ретінде жұмыс істейді: ол әңгімелесу барысында психикалық күйді бағалайды және нәтижелерді құрылғыдағы жергілікті конфигурациялық файлға сақтайды.

Бұл бөлу маңызды: диалогтық модель эмпатиялық және формулировкаларда еркін бола алады, ал аналитикалық модель қатаң және құрылымды болады. Агент алдыңғы сессиялар тарихын жергілікті жадтан алып, әрбір келесі әңгімені дербестендіреді. Мұның бәрі — серверге бірде-бір сұранымсыз.

Бұл миллиардқа жуық адам үшін нені білдіреді?

ДДҰ бағалауы бойынша, әлемде миллиардқа жуық адам психикалық денсаулықты қолдауға мұқтаж. Олардың көпшілігі көмек алмайды — мамандардың жетіспеушілігіне, терапия құнына, географиялық алыстыққа немесе айыптаудан қорқуға байланысты. Психикалық денсаулыққа арналған чат-боттар кем дегенде жеңіл және орташа белгілер кезінде тиімділігін дәлелдеп қойды (Abd-Alrazaq және т.б., 2020).

Бірақ сенім тар жер болып қала береді. Сон және әріптестерінің зерттеуі (2024) көрсеткендей, пайдаланушылар ЖИ-әңгімелесушіге ашыла алады, бірақ олардың сөздерін үшінші тарап оқымайтынына сенімді болған жағдайда ғана. On-device модельдер бұл кедергіні заңдық емес, техникалық тұрғыдан жояды — деректер физикалық түрде құрылғыдан шықпайды.

On-device тәсілдің қандай шектеулері бар?

Шекараларды айтпай кету әділетсіз болар еді. 0,5 миллиард параметрлі модельдер жауаптардың тереңдігі мен икемділігі бойынша бұлттық аналогтардан айтарлықтай кем. Олар құрылымдалған тапсырмаларды — скрининг, хаттамалық қолдаушы диалог — жақсы орындайды, бірақ күрделі психотерапиялық жұмыс үшін олар әзірге жеткіліксіз.

Сонымен қатар, барлық смартфондарда 16 ГБ жедел жады бола бермейді. Жаппай таралу үшін одан да ықшам модельдер немесе гибридтік тәсіл қажет: негізгі функциялар құрылғыда, ал кеңейтілген мүмкіндіктер — пайдаланушының келісімімен бұлтта. Сондай-ақ, деректерді цифрлық мониторинг құралдары деректерді жинау шекаралары туралы өз сұрақтарын көтеретінін есте ұстаған жөн.

Ары қарай не болады?

MoPHES — мобильді құрылғыда жұмыс істейтін алғашқы толықтай автономды ЖИ психикалық денсаулық қолдау жүйесі. Ол құпиялылық пен қолжетімділіктің бір-біріне қайшы келмейтінін көрсетеді. Квантизация технологиялары мен мобильді чиптерді оңтайландыру дамыған сайын on-device модельдер одан да ықшам әрі дәл болады.

Қазірдің өзінде «Рядом» сияқты сервистер психикалық денсаулықты қолдауға дәлелді тәсілдерді қолданады. Ал психотерапиядағы ЖИ этикалық стандарттары айқындала түскен сайын, зертханалық эксперимент пен күнделікті өзіне қамқорлық құралы арасындағы шекара бұлыңғырлана береді.

Жиі қойылатын сұрақтар

Телефондағы ЖИ психотерапевтті алмастыра ала ма?

Жоқ. On-device модельдер қолдаушы диалог, скрининг және күйді мониторингілеу үшін жарамды, бірақ толыққанды психотерапия үшін емес. Олар тірі маманмен жұмысты алмастырмай, толықтырады.

Ықшам модельдер GPT-4 және ұқсас жүйелермен салыстырғанда қаншалықты дәл?

0,5 миллиард параметрлі модельдер еркін мәтін генерациялау бойынша ірі бұлттық модельдерден айтарлықтай кем. Алайда тар тапсырмалар үшін — құрылымдалған көңіл-күйді бағалау, хаттамалық қолдаушы жауаптар — олардың дәлдігі практикалық қолдану үшін жеткілікті.

Деректер шынымен ешқайда жіберілмейді ме?

MoPHES архитектурасында — иә. Модель толықтай офлайн жұмыс істейді, барлық жазбалар жергілікті сақталады. Алайда әрбір нақты қосымша бұл архитектураны әртүрлі жүзеге асыруы мүмкін, сондықтан сервістің құпиялылық саясатын әрқашан тексерген жөн.

Мұндай модельді іске қосу үшін қандай смартфон қажет?

Зерттеушілер 16 ГБ жедел жадымен Xiaomi 13 Ultra-да сынақтан өткізді. Ыңғайлы жұмыс үшін 8+ ГБ RAM және заманауи процессоры бар құрылғы ұсынылады. Модельдер оңтайландырылған сайын талаптар төмендейді.