Android-смартфондо түздөн-түз иштетилген 280 мегабайттык тилдик модель секундасына 17 токен ылдамдыкта терапиялык диалог жүргүзө алат — мында бир дагы байт маалымат түзмөктөн чыкпайт. Бул концепт же конференциядагы слайд эмес: MoPHES деп аталган бул системаны Вэй, Чжоу жана Ван изилдөөчүлөрү түзүп, 2025-жылы IEEE журналында жарыялашкан.

Эмне үчүн купуялуулук — санариптик терапиянын негизги маселеси?

ДСУнун маалыматтары боюнча, психикалык бузулуулары бар адамдардын 70%дан ашыгы жардамга кайрылбайт. Себептердин арасында — стигма жана жеке маалыматтын чыгып кетишинен коркуу. Бул коркуу негиздүү: илимий изилдөөлөрдө да этикалык комитеттер терапиялык сессиялардын чыныгы маалыматтарын талдоо үчүн берүүгө тыюу салат. Эгерде лабораториялык шарттарда купуялуулукту кепилдөө мүмкүн болбосо — массалык тиркемелер жөнүндө эмне айтууга болот?

Салттуу онлайн психологиялык колдоо кызматтары, анын ичинде клиникалык сыноолордо натыйжалуулугун көрсөткөн чат-боттор, булут аркылуу иштейт. Ар бир билдирүү алыскы серверге жөнөтүлүп, иштелип чыгып, кайтарылат. Ал эми толук шифрлөө менен да маалыматтар бир жерде сакталат — жана теориялык жактан бузулушу мүмкүн.

On-device модель деген эмне жана ал кантип иштейт?

On-device сөзмө-сөз мындай маани берет: модель сиздин телефонуңузда иштейт. Сервер жок, булут жок, интернет байланыш жок. MoPHES ар бири 0,5 миллиард параметрлүү эки компакттуу тилдик модулду llama.cpp фреймворку аркылуу иштетет. Q4_K_M квантизациясынан кийин ар бир модель болжол менен 280 МБ орун алат — орточо мобилдик оюндан аз.

Тесттик түзмөктө — Xiaomi 13 Ultra (8 өзөк, 16 ГБ оперативдик эс тутум) — система диалогдо секундасына 17,3 токен ылдамдыкта жооп генерациялайт. Психикалык абалды баалоо 4,2 секунд алат. Бул ыңгайлуу ылдамдык — колдонуучу кечигүүнү сезбейт.

Эмне үчүн бирөөнүн ордуна эки модул колдонулат?

MoPHES архитектурасы тапшырмаларды бөлөт. Бир модул диалог жүргүзөт — колдонуучунун билдирүүлөрүнө жооп берет, тактоочу суроолорду берет, колдоочу баарлашуу техникаларын колдонот. Экинчи модул аналитик катары иштейт: ал сүйлөшүү учурунда психикалык абалды баалайт жана натыйжаларды түзмөктөгү жергиликтүү конфигурация файлына сактайт.

Бул бөлүү маанилүү: диалогдук модель эмпатиялуу жана сөздөрдү тандоодо эркин боло алат, ал аналитикалык модель катуу жана структуралуу болот. Агент мурдагы сессиялардын тарыхын жергиликтүү эс тутумдан алып, ар бир кийинки сүйлөшүүнү жекелештирет. Мунун баары — серверге бир дагы суроо-талапсыз.

Бул миллиардга жакын адам үчүн эмнени билдирет?

ДСУнун баасы боюнча, дүйнөдө миллиардга жакын адам психикалык ден соолукту колдоого муктаж. Алардын көпчүлүгү жардам алышпайт — адистердин жетишсиздигинен, терапиянын баасынан, географиялык алыстыктан же сот-жаза коркуусунан. Психикалык ден соолукка арналган чат-боттор жеңил жана орточо симптомдор учурунда натыйжалуулугун далилдеп коюшкан (Abd-Alrazaq ж.б., 2020).

Бирок ишеним тар жер бойдон калууда. Сон жана кесиптештеринин изилдөөсү (2024) көрсөткөндөй, колдонуучулар ЖИ-маектешине ачыла алышат, бирок алардын сөздөрүн үчүнчү тарап окубай турганына ишенгенде гана. On-device моделдер бул тоскоолдукту юридикалык эмес, техникалык жактан жоёт — маалыматтар физикалык жактан түзмөктөн чыкпайт.

On-device ыкманын кандай чектөөлөрү бар?

Чек араларды айтпай коюу адилетсиз болмок. 0,5 миллиард параметрлүү моделдер жооптордун тереңдиги жана ийкемдүүлүгү боюнча булуттук аналогдордон кыйла артта калышат. Алар структуралаштырылган тапшырмаларды — скрининг, протокол боюнча колдоочу диалог — жакшы аткарышат, бирок татаал психотерапиялык иш үчүн алар азырынча жетишсиз.

Мындан тышкары, бардык смартфондордо 16 ГБ оперативдик эс тутум боло бербейт. Массалык жайылтуу үчүн дагы компакттуу моделдер же гибриддик ыкма керек: негизги функциялар түзмөктө, ал кеңейтилген мүмкүнчүлүктөр — колдонуучунун макулдугу менен булутта. Ошондой эле, санариптик мониторинг куралдары маалыматтарды чогултуу чек аралары жөнүндө өз суроолорун козгой турганын эстен чыгарбоо керек.

Андан ары эмне болот?

MoPHES — мобилдик түзмөктө иштеген биринчи толук автономдуу ЖИ психикалык ден соолукту колдоо системасы. Ал купуялуулук менен жеткиликтүүлүктүн бири-бирине карама-каршы келбей тургандыгын көрсөтөт. Квантизация технологиялары жана мобилдик чиптерди оптималдаштыруу өнүккөн сайын on-device моделдер дагы компакттуу жана так болот.

Азыр эле «Рядом» сыяктуу кызматтар психикалык ден соолукту колдоого далилденген ыкмаларды колдонушат. Ал эми психотерапиядагы ЖИ этикалык стандарттары айкындалган сайын, лабораториялык эксперимент менен күнүмдүк өзүнө камкордук куралынын ортосундагы чек ара өчө берет.

Көп берилүүчү суроолор

Телефондогу ЖИ психотерапевтти алмаштыра алабы?

Жок. On-device моделдер колдоочу диалог, скрининг жана абалды мониторингдөө үчүн ылайыктуу, бирок толук кандуу психотерапия үчүн эмес. Алар тирүү адис менен иштөөнү алмаштырбай, толуктайт.

Компакттуу моделдер GPT-4 жана ушул сыяктуу системалар менен салыштырганда канчалык так?

0,5 миллиард параметрлүү моделдер эркин текст генерациялоо боюнча ири булуттук моделдерден кыйла артта калышат. Бирок тар тапшырмалар үчүн — структуралаштырылган маанайды баалоо, протокол боюнча колдоочу жооптор — алардын тактыгы практикалык колдонуу үчүн жетиштүү.

Маалыматтар чынында эле эч жакка жөнөтүлбөйбү?

MoPHES архитектурасында — ооба. Модель толугу менен офлайн иштейт, бардык жазуулар жергиликтүү сакталат. Бирок ар бир конкреттүү тиркеме бул архитектураны ар башкача ишке ашырышы мүмкүн, ошондуктан кызматтын купуялуулук саясатын ар дайым текшерип туруу зарыл.

Мындай моделди иштетүү үчүн кандай смартфон керек?

Изилдөөчүлөр 16 ГБ оперативдик эс тутуму бар Xiaomi 13 Ultra менен сыноо жүргүзүшкөн. Ыңгайлуу иштөө үчүн 8+ ГБ RAM жана заманбап процессору бар түзмөк сунушталат. Моделдер оптималдаштырылган сайын талаптар төмөндөйт.