ИИ чат-боты вместо психотерапевта: проявляют эмпатию, но доказательств их безопасности пока недостаточно

Новый систематический обзор, опубликованный в журнале npj Digital Medicine, демонстрирует двойственность применения генеративного ИИ в психотерапии. С одной стороны, пользователи отмечают высокую доступность, удобство и эмпатию таких чат-ботов, с другой — научное сообщество бьет тревогу из-за недостатка данных о долгосрочной безопасности, риске передозировки цифровой поддержкой и отсутствия четких клинических протоколов. Исследователи призывают к срочной стандартизации проверок, прежде чем рекомендовать эти инструменты в качестве замены традиционной терапии.

В условиях глобального кризиса психического здоровья, когда около 85% нуждающихся не получают квалифицированной помощи из-за стоимости, стигмы или нехватки врачей, цифровые инструменты кажутся спасением. Однако переход к продвинутым системам на основе больших языковых моделей поставил перед медициной новые этические и практические вызовы.

Международная группа ученых проанализировала данные 21 исследования, проведенных в Китае, США и Великобритании в период с 2023 по 2025 год. Большинство вмешательств были направлены на борьбу с депрессией и тревожностью, используя методики КПТ и осознанности.

Ключевой вывод: технология действительно впечатляет пользователей. Участники описывали диалоги как «персонализированные» и «понимающие», а уровень удовлетворенности в пилотных проектах был стабильно высоким.

Однако за фасадом эмпатии скрываются некоторые сложности:

1. Отсутствие долгосрочных данных. Большинство испытаний были краткосрочными (2–8 недель). В многонедельных исследованиях четко прослеживалась модель «оттока»: первоначальный интерес пользователей быстро угасал, а вовлеченность падала.

2. Иллюзия понимания. Чат-боты такого типа способны распознавать эмоции и давать адаптивные ответы, но это не всегда конвертируется в улучшение реального клинического состояния. Более того, пользователи жаловались на шаблонность, несоответствие контексту и даже на «галлюцинации» ИИ — выдачу неверных или потенциально опасных советов.

3. Кризисные ситуации. Авторы обзора подчеркивают, что способность чат-ботов адекватно реагировать на суицидальные наклонности или панические атаки остается под большим вопросом. Пользователи выражали страх «передовериться» машине в критический момент.

4. Разнородность метрик. Исследователи использовали разные шкалы для оценки удобства и эффективности, что сделало невозможным прямое сравнение результатов. Специалисты призывают внедрить единые стандарты отчетности для ИИ-продуктов в психиатрии.

По мнению рецензентов, для того чтобы чат-боты стали полноценным инструментом, а не просто «цифровым дневником настроения», необходима совместная разработка с клиницистами, прозрачность данных обучения моделей и строгий независимый аудит.