ШІ-тэрапеўты становяцца рэальнасцю хутчэй, чым паспявае сфарміравацца прававая і этычная база для іх рэгулявання. Хто нясе адказнасць, калі алгарытм даў няслушную параду? Як абаронены дадзеныя пра самае інтымнае — псіхічнае здароўе?

Рэальны інцыдэнт: калі алгарытм нашкодзіў

У 2023 годзе чат-бот Tessa, створаны спецыяльна для падтрымкі людзей з парушэннямі харчовых паводзін, быў адключаны пасля таго, як высветлілася: ён даваў карыстальнікам парады па зніжэнні вагі і падліку калорый. Для людзей з анарэксіяй ці буліміяй — гэта прамая шкода. Гэты інцыдэнт стаў сімвалам таго, наколькі важная бяспека пры распрацоўцы ШІ ў галіне псіхічнага здароўя.

10 ключавых этычных пытанняў

Сістэматычныя агляды вылучаюць некалькі ключавых тэм: канфідэнцыяльнасць дадзеных, інфармаваная згода, прадузятасць алгарытмаў па прыкмеце расы і полу, празрыстасць работы сістэмы, права чалавека на адмову ад ШІ, бяспека ў крызісных сітуацыях.

Асабліва вострае пытанне — ці можа ШІ правільна рэагаваць на суіцыдальныя думкі? Даследаванні паказваюць, што большасць сучасных сістэм да гэтага не гатовыя.

Як рэгулююць у ЗША

Амерыканскае FDA да 2025 года ўхваліла некалькі лічбавых тэрапеўтыкаў для псіхічнага здароўя. Першым у 2017 годзе стаў reSET — праграма для лячэння залежнасцей. У сакавіку 2024 года з'явіўся Rejoyn — першая ўхваленая FDA праграма для лячэння дэпрэсіі, хоць яе клінічнае выпрабаванне не паказала статыстычна значнай перавагі перад кантролем.

Ніводзін генератыўны ШІ-тэрапеўт пакуль ухвалення не атрымаў. На пасяджэнні ў лістападзе 2025 года FDA прама ўказала: «метакагнітыўныя абмежаванні ШІ ствараюць значныя рызыкі, уключаючы патэнцыйна смяротныя наступствы няправільнай інфармацыі».

Еўрапейскі AI Act: высокая рызыка — высокія патрабаванні

У Еўропе з жніўня 2024 года дзейнічае Рэгламент аб штучным інтэлекце (EU AI Act). ШІ-сістэмы ў сферы аховы здароўя аўтаматычна класіфікуюцца як высокарызыкоўныя. Гэта азначае абавязковую ацэнку адпаведнасці, поўную тэхнічную дакументацыю, пастаянны маніторынг і чалавечы кантроль. Штрафы за парушэнні — да 35 мільёнаў еўра або 7% гадавога абароту кампаніі.

Што павінен ведаць карыстальнік

Калі вы карыстаецеся ШІ-праграмай для псіхалагічнай падтрымкі, важна разумець некалькі рэчаў. Сістэма павінна выразна паведамляць, што вы размаўляеце з ШІ, а не з чалавекам. Вашы дадзеныя — асабліва адчувальныя — павінны захоўвацца ў адпаведнасці з заканадаўствам. У крызіснай сітуацыі сістэма абавязана перанакіраваць вас да жывога спецыяліста або экстранных службаў. Калі гэтага няма — перад вамі небяспечны прадукт.

ШІ ў псіхатэрапіі — не добра і не дрэнна само па сабе. Гэта інструмент. Як і любы медыцынскі інструмент, ён патрабуе стандартаў, нагляду і чэснасці з карыстальнікам. Сэрвіс «Рядом» будуецца менавіта на гэтых прынцыпах: празрыстасць, бяспека і павага да межаў тэхналогіі. Навука і рэгулятары працуюць над правіламі — і мы сочым за гэтым працэсам, каб заставацца на баку карыстальніка.