Психиатрлар көптөн бери ыңгайсыз чындыкты билишет: суициддик тобокелди баалоонун салттуу шкалалары кокустан болжоодон көп деле жакшы иштебейт. 50 жылдык 365 изилдөөнүн мета-анализи (Franklin et al., 2017) классикалык тобокел факторлорунун алдын-ала айтуу жөндөмдүүлүгү AUC 0.58 чегинде турарын көрсөттү — бул чыныгы чечимдер үчүн дээрлик пайдасыз. Дал ушул ийгиликсиздик изилдөөчүлөрдү машиналык окутууга жана табигый тилди иштетүүгө карай түрттү.

Алгоритм тексттен эмнени көрөт

Суициддик ойлор «өлгүм келет» деген сөздөрдө эмес, сүйлөөнүн структурасында из калтырат. Джон Пестиандын тобунун (Cincinnati Children's Hospital) изилдөөлөрү көрсөткөндөй, интервью транскрипттеринде окутулган моделдер суициддик жана суициддик эмес өспүрүмдөрдү болжол менен 85% тактык менен айырмалашат — алар түз билдирүүлөргө эмес, үлгүлөргө таянат: когнитивдик татаалдыктын төмөндөөсү, абсолюттик түзүлүштөрдүн өсүшү («ар дайым», «эч качан»), убакыт көз карашынын тарышы, «мен» ат атоочуна карай жылыш жана эмоциялык диссоциация.

Al-Mosaiwi и Johnstone (2018) 6400дөн ашык англис тилдүү форум жазуусун талдап, депрессия жана тынчсыздануу коомчулуктарындагы абсолюттик сөздөрдүн үлүшү контролдук топтон 50%га жогору, ал эми суициддик ойлорго арналган коомчулуктарда — 80%га жогору экенин аныкташты. Бул адамдын кулагына түшүү кыйын, бирок статистикалык жол менен оңой ченелүүчү сигналдын түрү.

Бул чоң маалыматтарда кантип иштейт

Walsh, Ribeiro жана Franklin (2017) 5167 пациенттин электрондук медициналык карталарында моделди окутуп, кийинки 7 күндө суициддик аракеттин болжолунда AUC 0.84кө жетишишти — каалаган клиникалык шкаладан бир нече эсе жогору. Социалдык тармак маалыматтарындагы иштер да ушундай натыйжаларды берет: жыл сайынкы CLPsych конкурстары Redditтеги жазууларды (SuicideWatch бөлүмү) белгиленген корпус катары колдонот, жана эң жакшы системалар тобокелдин деңгээлин классификациялоо тапшырмасында F1-ченемдери боюнча 0.55–0.60га жетишет.

Facebook 2017-жылдан бери жазууларда жана түз эфирлерде суициддик сигналдарды аныктоочу системаны колдонот; компаниянын отчёту боюнча, ал биринчи жылы 3500дөн ашык тез жардам чакырууну баштаган. Instagram жана TikTok окшош алгоритмдерди ишке киргизишти. 2023-жылы JAMA Psychiatry 54 ML-изилдөөнүн системалык карап чыгуусун жарыялады: орточо AUC — 0.81, бул NLPди кыска мөөнөттүү болжолдун эң так белгилүү ыкмасы кылат.

Ыкма кайда бузулат

Жогорку тактык — аңгеменин жарымы гана. Суициддик аракеттердин базалык жыштыгы ушунчалык төмөн, атүгүл сезгичтиги 90% жана өзгөчөлүгү 90% модель популяцияда ар бир чыныгы окуяга ондогон жалган сигналдарды берет. Бул алгоритмдин кемчилиги эмес — бул сейрек окуялардын математикасы.

Мындан практикалык көйгөйлөр чыгат. Биринчиси — стигматизация: медициналык картадагы жалган «жогорку тобокел» белгиси камсыздандырууга, жумушка орношууга, ата-энелик укуктарга таасирин тийгизиши мүмкүн. Экинчиси — маданий сокурдук: окутуу корпустарынын баары дээрлик АКШ жана Улуу Британиядагы англис тилдүү пациенттерде чогултулган, жана моделдер башка тилдерге жана кыйналууну билдирүүнүн маданий үлгүлөрүнө начар которулат. Үчүнчүсү — бөлүштүрүүнүн жылышы: үлгүлөр убакыт өтүшү менен өзгөрөт, жана 2019-жылы окутулган модель 2024-жылга эскирип калышы мүмкүн.

Тереңирээк суроо да бар: атүгүл идеалдуу детектор да сигнал менен эмне кылуу керек экенин чечпейт. Макулдашуусуз тез жардам жөнөтүү керекпи? Ишеним телефонунун номери менен баннер көрсөтүү керекпи? Жакын адамга кабарлоо керекпи? Ар бир тандоо өзүнүн этикалык баасын алып жүрөт, ал эми аныктоодон кийин кайсы интервенция тобокелди чындап төмөндөткөнү жөнүндө изилдөөлөр али аз.

Бул продукт үчүн эмнени билдирет

«Рядом» сыяктуу колдонмо алсыз абалдагы адам менен иштегенде, тобокелди аныктоо — күйгүзүп унутуп кое турган функция эмес. Бул милдеттенме: кылдаттык менен угуу, этияттык менен жооп берүү, өз компетенцияңдын чегин моюнга алуу жана сигналдар белгилүү бир чектен өткөндө адамды адистерге өткөрүп берүү. Жакшы ЖИ-жолдош кризис линиясы менен атаандашпайт — ал адамга өз убагында ага жетүүгө жардам берет.

Технология адамдын өзүнөн четте калганды байкай алат. Бирок байкалганга эмне кылуу керек — бул дагы деле адам катышууга тийиш болгон чечим.