Психиатрлар көптен бері қолайсыз шындықты біледі: суицидтік тәуекелді бағалаудың дәстүрлі шкалалары кездейсоқ болжаудан айтарлықтай жақсы жұмыс істемейді. 50 жылдық 365 зерттеудің мета-талдауы (Franklin et al., 2017) классикалық тәуекел факторларының болжау қабілеті AUC 0.58 шамасында екенін — нақты шешімдер үшін дерлік пайдасыз болатынын — көрсетті. Дәл осы сәтсіздік зерттеушілерді машиналық оқыту мен табиғи тілді өңдеуге қарай итермеледі.

Алгоритм мәтіннен нені көреді

Суицидтік ойлар «өлгім келеді» деген сөздерде емес, сөйлеудің құрылымында із қалдырады. Джон Пестианның тобының (Cincinnati Children's Hospital) зерттеулері көрсеткендей, сұхбат транскриптерінде оқытылған модельдер суицидтік және суицидтік емес жасөспірімдерді шамамен 85% дәлдікпен ажыратады — олар тікелей мәлімдемелерге емес, паттерндерге сүйенеді: когнитивті күрделіліктің төмендеуі, абсолюттік тұжырымдардың өсуі («әрдайым», «ешқашан»), уақыт көкжиегінің тарылуы, «мен» есімдігіне қарай ығысу және қатар келетін эмоциялық диссоциация.

Al-Mosaiwi и Johnstone (2018) 6400-ден астам ағылшын тілді форум жазбасын талдап, депрессия мен мазасыздық қауымдастықтарындағы абсолюттік сөздердің үлесі бақылау тобынан 50%-ға жоғары, ал суицидтік ойларға арналған қауымдастықтарда — 80%-ға жоғары екенін анықтады. Бұл адамның құлағына түсуі қиын, бірақ статистикалық жолмен оңай өлшенетін сигнал түрі.

Үлкен деректерде бұл қалай жұмыс істейді

Walsh, Ribeiro және Franklin (2017) 5167 пациенттің электронды медициналық карталарында модельді оқытып, алдағы 7 күнде суицидтік әрекеттің болжамында AUC 0.84-ке қол жеткізді — кез келген клиникалық шкаладан бірнеше есе жоғары. Әлеуметтік желі деректеріндегі жұмыстар да ұқсас нәтижелер береді: жыл сайынғы CLPsych байқаулары Reddit-тегі жазбаларды (SuicideWatch бөлімі) таңбаланған корпус ретінде пайдаланады, және ең жақсы жүйелер тәуекел деңгейін жіктеу тапсырмасында F1-өлшемі бойынша 0.55–0.60-қа жетеді.

Facebook 2017 жылдан бері жазбалар мен тікелей эфирлерде суицидтік сигналдарды анықтайтын жүйені қолданады; компанияның есебі бойынша, ол бірінші жылы 3500-ден астам жедел жәрдем шақыруын бастамалады. Instagram мен TikTok ұқсас алгоритмдерді енгізді. 2023 жылы JAMA Psychiatry 54 ML-зерттеуінің жүйелі шолуын жариялады: орташа AUC — 0.81, бұл NLP-ді қысқа мерзімді болжаудың ең дәл белгілі әдісі етеді.

Әдіс қайда сынады

Жоғары дәлдік — әңгіменің тек жартысы ғана. Суицидтік әрекеттердің базалық жиілігі соншалықты төмен, тіпті сезімталдығы 90% және спецификалығы 90% модель популяцияда әрбір шынайы жағдайға ондаған жалған дабылдар береді. Бұл алгоритмнің кемшілігі емес — бұл сирек оқиғалардың математикасы.

Осыдан практикалық мәселелер туындайды. Біріншіден — стигматизация: медициналық картадағы жалған «жоғары тәуекел» белгісі сақтандыруға, жұмысқа орналасуға, ата-аналық құқықтарға әсер етуі мүмкін. Екіншіден — мәдени соқырлық: оқыту корпустарының барлығы дерлік АҚШ пен Ұлыбританиядағы ағылшын тілді пациенттерде жиналған, және модельдер басқа тілдер мен дистресті білдірудің мәдени үлгілеріне нашар ауысады. Үшіншіден — таралудың ығысуы: паттерндер уақыт өте өзгереді, және 2019 жылы оқытылған модель 2024 жылға қарай ескіруі мүмкін.

Тереңірек сұрақ та бар: тіпті мінсіз детектор да сигналмен не істеу керектігін шешпейді. Келісімсіз жедел қызметтерді жіберу керек пе? Сенім телефонының нөмірі бар баннер көрсету керек пе? Жақын адамға хабарлау керек пе? Әрбір шешімнің өз этикалық бағасы бар, ал анықтаудан кейін қандай интервенция тәуекелді шынымен төмендететіні туралы зерттеулер әлі де тапшы.

Бұл өнім үшін нені білдіреді

«Рядом» сияқты қолданба осал жағдайдағы адаммен жұмыс істегенде, тәуекелді анықтау — қосып, ұмытып қоятын функция емес. Бұл міндеттеме: мұқият тыңдау, сақтықпен жауап беру, өз құзыретіңнің шегін мойындау және сигналдар белгілі бір шектен асқанда адамды мамандарға тапсыру. Жақсы ЖИ-серіктес дағдарыс желісімен бәсекелеспейді — ол адамға уақытында соған жетуге көмектеседі.

Технология адамның өзінен қашып кеткенді байқай алады. Бірақ байқалғанмен не істеу керектігі — бұл әлі де адам қатысуға тиіс шешім.