ИИ-терапевты становятся реальностью быстрее, чем успевает сформироваться правовая и этическая база для их регулирования. Кто несёт ответственность, если алгоритм дал неверный совет? Как защищены данные о самом интимном — психическом здоровье?

Реальный инцидент: когда алгоритм навредил

В 2023 году чат-бот Tessa, созданный специально для поддержки людей с расстройствами пищевого поведения, был отключен после того, как выяснилось: он давал пользователям советы по снижению веса и подсчету калорий. Для людей с анорексией или булимией — это прямой вред. Этот инцидент стал символом того, насколько важна безопасность при разработке ИИ в области психического здоровья.

10 ключевых этических вопросов

Систематические обзоры выделяют несколько ключевых тем: конфиденциальность данных, информированное согласие, предвзятость алгоритмов по признаку расы и пола, прозрачность работы системы, право человека на отказ от ИИ, безопасность в кризисных ситуациях.

Особенно острый вопрос — может ли ИИ правильно реагировать на суицидальные мысли? Исследования показывают, что большинство современных систем к этому не готовы.

Как регулируют в США

Американское FDA к 2025 году одобрило несколько цифровых терапевтиков для психического здоровья. Первым в 2017 году стал reSET — приложение для лечения зависимостей. В марте 2024 года появилось Rejoyn — первое одобренное FDA приложение для лечения депрессии, хотя его клиническое испытание не показало статистически значимого преимущества перед контролем.

Ни один генеративный ИИ-терапевт пока одобрения не получил. На заседании в ноябре 2025 года FDA прямо указала: «метакогнитивные ограничения ИИ создают значительные риски, включая потенциально смертельные последствия неверной информации».

Европейский AI Act: высокий риск — высокие требования

В Европе с августа 2024 года действует Регламент об искусственном интеллекте (EU AI Act). ИИ-системы в сфере здравоохранения автоматически классифицируются как высокорисковые. Это означает обязательную оценку соответствия, полную техническую документацию, постоянный мониторинг и человеческий контроль. Штрафы за нарушения — до 35 миллионов евро или 7% годового оборота компании.

Что должен знать пользователь

Если вы используете ИИ-приложение для психологической поддержки, важно понимать несколько вещей. Система должна чётко сообщать, что вы общаетесь с ИИ, а не с человеком. Ваши данные — особенно чувствительные — должны храниться в соответствии с законодательством. В кризисной ситуации система обязана перенаправить вас к живому специалисту или экстренным службам. Если этого нет — перед вами небезопасный продукт.

ИИ в психотерапии — не хорошо и не плохо само по себе. Это инструмент. Как и любой медицинский инструмент, он требует стандартов, надзора и честности с пользователем. Сервис «Рядом» строится именно на этих принципах: прозрачность, безопасность и уважение к границам технологии. Наука и регуляторы работают над правилами — и мы следим за этим процессом, чтобы оставаться на стороне пользователя.