ЖИ-терапевттер құқықтық және этикалық базаның қалыптасуынан тезірек шындыққа айналуда. Алгоритм қате кеңес берсе, кім жауапкершілік арқалайды? Ең жеке мәліметтер — психикалық денсаулық туралы деректер — қалай қорғалады?

Нақты оқиға: алгоритм зиян тигізген кез

2023 жылы тамақтану бұзылыстары бар адамдарды қолдау үшін арнайы жасалған Tessa чат-боты пайдаланушыларға салмақ түсіру мен калория санау бойынша кеңес бергені анықталғаннан кейін өшірілді. Анорексия немесе булимиясы бар адамдар үшін — бұл тікелей зиян. Бұл оқиға психикалық денсаулық саласында ЖИ жасау кезінде қауіпсіздіктің қаншалықты маңызды екенінің символына айналды.

10 негізгі этикалық сұрақ

Жүйелі шолулар бірнеше негізгі тақырыпты бөліп көрсетеді: деректердің құпиялылығы, хабардар келісім, нәсіл мен жыныс белгісі бойынша алгоритмдік біржақтылық, жүйенің ашықтығы, адамның ЖИ-дан бас тарту құқығы, дағдарыс жағдайларындағы қауіпсіздік.

Ерекше өткір мәселе — ЖИ суицидтік ойларға дұрыс жауап бере ала ма? Зерттеулер көрсеткендей, қазіргі жүйелердің көпшілігі бұған дайын емес.

АҚШ-тағы реттеу

Американдық FDA 2025 жылға қарай психикалық денсаулық үшін бірнеше цифрлық терапевтикті мақұлдады. Бірінші болып 2017 жылы reSET — тәуелділікті емдеуге арналған қосымша болды. 2024 жылдың наурызында Rejoyn пайда болды — FDA мақұлдаған депрессияны емдеуге арналған алғашқы қосымша, бірақ оның клиникалық сынағы бақылау тобына қарағанда статистикалық маңызды артықшылық көрсетпеді.

Ешбір генеративті ЖИ-терапевт әлі мақұлдау алған жоқ. 2025 жылдың қарашасындағы отырыста FDA тікелей мәлімдеді: «ЖИ-дың метакогнитивті шектеулері қате ақпараттың ықтимал өлімге әкелуі мүмкін салдарларын қоса, елеулі тәуекелдер тудырады».

Еуропалық AI Act: жоғары тәуекел — жоғары талаптар

Еуропада 2024 жылдың тамызынан бастап Жасанды интеллект туралы регламент (EU AI Act) қолданылады. Денсаулық сақтау саласындағы ЖИ-жүйелер автоматты түрде жоғары тәуекелді деп жіктеледі. Бұл міндетті сәйкестікті бағалау, толық техникалық құжаттама, тұрақты мониторинг және адам бақылауын білдіреді. Бұзушылық үшін айыппұлдар — 35 миллион еуроға дейін немесе компанияның жылдық жаһандық айналымының 7%-ына дейін.

Пайдаланушы не білуі керек

Егер сіз психологиялық қолдау үшін ЖИ-қосымшаны пайдалансаңыз, бірнеше нәрсені түсіну маңызды. Жүйе сіздің адаммен емес, ЖИ-мен сөйлесіп жатқаныңызды нақты хабарлауы тиіс. Сіздің деректеріңіз — әсіресе құпия деректер — заңнамаға сәйкес сақталуы тиіс. Дағдарыс жағдайында жүйе сізді тірі маманға немесе жедел көмек қызметтеріне бағыттауға міндетті. Егер бұлар болмаса — алдыңызда қауіпті өнім.

ЖИ психотерапияда — өз алдына жақсы да, жаман да емес. Бұл құрал. Кез келген медициналық құрал сияқты, ол стандарттарды, қадағалауды және пайдаланушымен адалдықты талап етеді. «Рядом» сервисі дәл осы қағидаларға негізделген: ашықтық, қауіпсіздік және технология шекараларын құрметтеу. Ғалымдар мен реттеушілер ережелер бойынша жұмыс істеуде — біз де пайдаланушы жағында қалу үшін бұл процесті қадағалаудамыз.