ЖИ-терапевттер укуктук жана этикалык базанын калыптанышынан тезирээк чындыкка айланууда. Алгоритм туура эмес кеңеш берсе, ким жоопкерчилик тартат? Эң жашыруун маалыматтар — психикалык ден соолук жөнүндө маалыматтар — кантип корголот?

Чыныгы окуя: алгоритм зыян келтирген учур

2023-жылы тамак ичүү бузулуулары бар адамдарды колдоо үчүн атайын жасалган Tessa чат-боту колдонуучуларга салмак түшүрүү жана калория эсептөө боюнча кеңеш бергени аныкталгандан кийин өчүрүлдү. Анорексия же булимиясы бар адамдар үчүн — бул түздөн-түз зыян. Бул окуя психикалык ден соолук чөйрөсүндө ЖИ иштеп чыгууда коопсуздуктун канчалык маанилүү экенинин символуна айланды.

10 негизги этикалык суроо

Системалуу сереп салуулар бир нече негизги темаларды бөлүп көрсөтөт: маалыматтардын купуялуулугу, маалыматталган макулдук, расалык жана гендердик белги боюнча алгоритмдик бир жактуулук, системанын ачыктыгы, адамдын ЖИ-ден баш тартуу укугу, кризистик абалдардагы коопсуздук.

Өзгөчө курч маселе — ЖИ суициддик ойлорго туура жооп бере алабы? Изилдөөлөр көрсөткөндөй, азыркы системалардын көпчүлүгү буга даяр эмес.

АКШда жөнгө салуу

Америкалык FDA 2025-жылга карата психикалык ден соолук үчүн бир нече санариптик терапевтикти бекитти. Биринчи болуп 2017-жылы reSET — көз карандылыкты дарылоого арналган тиркеме болду. 2024-жылдын мартында Rejoyn пайда болду — FDA бекиткен депрессияны дарылоого арналган биринчи тиркеме, бирок анын клиникалык сыноосу контролдук топко караганда статистикалык маанилүү артыкчылыкты көрсөтпөдү.

Бир да генеративдик ЖИ-терапевт бекитүү ала элек. 2025-жылдын ноябрындагы отурумда FDA түз эле билдирди: «ЖИ-нин метакогнитивдик чектөөлөрү ката маалыматтын потенциалдуу өлүмгө алып келиши мүмкүн болгон кесепеттерин кошо, олуттуу тобокелдиктерди жаратат».

Европалык AI Act: жогорку тобокелдик — жогорку талаптар

Европада 2024-жылдын августунан бери Жасалма интеллект жөнүндө Регламент (EU AI Act) колдонулат. Саламаттык сактоо чөйрөсүндөгү ЖИ-системалар автоматтык түрдө жогорку тобокелдик деп классификацияланат. Бул милдеттүү шайкештик баалоону, толук техникалык документацияны, туруктуу мониторингди жана адам көзөмөлүн билдирет. Бузуулар үчүн айып пулдар — 35 миллион еврого чейин же компаниянын жылдык глобалдык жүгүртүүсүнүн 7%ына чейин.

Колдонуучу эмнени билиши керек

Эгер сиз психологиялык колдоо үчүн ЖИ-тиркемени колдонсоңуз, бир нече нерсени түшүнүү маанилүү. Система сиздин адам менен эмес, ЖИ менен сүйлөшүп жатканыңызды ачык билдириши керек. Сиздин маалыматтарыңыз — өзгөчө купуя маалыматтар — мыйзамга ылайык сакталышы керек. Кризистик абалда система сизди тирүү адиске же шашылыш кызматтарга багыттоого милдеттүү. Эгер булар жок болсо — алдыңызда коопсуз эмес продукт.

Психотерапиядагы ЖИ — өзүнчө жакшы да, жаман да эмес. Бул курал. Кандай гана медициналык курал болбосун, ал стандарттарды, көзөмөлдү жана колдонуучуга чынчылдыкты талап кылат. «Рядом» сервиси так ушул принциптерге курулган: ачыктык, коопсуздук жана технологиянын чек араларын урматтоо. Илимпоздор жана жөнгө салуучулар эрежелер үстүндө иштөөдө — биз да колдонуучу тарапта калуу үчүн бул процессти көзөмөлдөп жатабыз.