Игра в имитацию. Может ли чат-бот заменить психотерапевта

В 1960 году американский учёный Джозеф Вейценбаум создал «Элизу» — первую программу, способную вести диалог на естественном языке. Элиза применяла приёмы активного слушания и моделировала роль психотерапевта, хотя изначально не предназначалась для психологической помощи. Прошло чуть больше полувека, и многие уже обращаются к нейросетям за поддержкой и советом, как действовать в тех или иных ситуациях, отмечает N+1.

Мы попросили прокомментировать растущую практику поиска психологической помощи у ИИ руководителя группы «Мультимодальные архитектуры ИИ» лаборатории «Сильный ИИ в медицине» Института AIRI Ярослава Беспалова и клинического психолога Наталью Ошемкову.

Насколько ответы ботов близки к работе живых терапевтов?

Ярослав: Чтобы понять, как работают современные боты, нужно разобраться в технологии, на которой они основаны — это большие языковые модели. Они не размышляют, как люди, а решают конкретную задачу — анализируют огромные объемы информации и выдают результат, рассчитанный статистически. В процессе обучения LLM последовательно показывают тексты, в которых часть слов скрыта, и они учатся предсказывать наиболее вероятные пропущенные элементы с учетом контекста.

Качество ответов больших языковых моделей зависит от данных для обучения. Критически важно, чтобы информация была точной, проверенной и не содержала ложных фактов. Если в обучающей выборке содержались корректные инструкции, модель сможет их воспроизвести. Однако её ответ будет результатом статистического расчёта, а не осмысления.

Наталья: Я думаю, что нейросети, скорее, выступают в роли селф‑хелп литературы: у ИИ можно спросить о системах тайм‑менеджмента или о том, как правильно дышать «по квадрату». То есть экспертную информацию, которая уже где‑то изложена, можно получить в коротком пересказе. Однако если требуется что‑то более сложное, в том числе постановка психиатрических диагнозов, — это задача не для искусственного интеллекта.

Уже сейчас беседа с терапевтическим ботом может приносить облегчение в трудной ситуации: после ссоры или при внезапной грусти бот поговорит и утешит. Он работает 24/7 и не устает, что выглядит очевидным преимуществом. При правильном использовании он может указать на ограничивающие установки — субъективные убеждения, приводящие к ошибочным выводам — но дальше анализ и интерпретация остаются за человеком.

Как устроена поддерживающая схема в терапевтических ботах?

Наталья: Чат‑боты, которые есть сегодня, не оспаривают наши идеи, не пытаются изменить нашу картину мира. Это логично, ведь они создавались как помощники, а от помощников мы ожидаем согласия. И я сомневаюсь, что эту функцию получится обойти, потому что все современные боты психологической поддержки построены на базовых больших языковых моделях. Для людей не совсем здоровых такой подход может быть даже опасен.

Уже есть трагические истории, когда чат‑бот поддерживал бред или суицидальные наклонности людей, которые к нему обращались. Совсем недавно в сети прогремел случай: человек, у которого развивалась паранойя, решил, что мать за ним следит, он рассказал об этом чат‑боту, и тот поддержал его опасения. Все закончилось убийством и самоубийством. У параноидной шизофрении есть такая особенность — бредовые идеи пациентов звучат разумно и структурно, так, что даже чат‑бот посчитает, что они могут быть обоснованы.

При суицидальных наклонностях нейросеть легко пропустит опасные признаки: сначала жалоба на увольнение, затем вопрос о самых высоких мостах — бот не свяжет эти сообщения и просто даст слова поддержки и список мостов.

Ярослав: Достаточно попробовать любой публичный сервис и задать вопрос, связанный с личной ситуацией. Скорее всего, ответы будут непоследовательными. Если вы скажете, что считаете какой‑то поступок неэтичным, модель согласится и приведёт аргументы в вашу пользу; в другом диалоге она обоснует противоположную точку зрения. В ответах нейросетей нет независимой оценки — они адаптируются к формулировке пользователя.

LLM по своей природе склонны не спорить, а поддерживать пользователя. Это противоречит профессиональной этике специалиста, задача которого — сохранять объективность и не зависеть от оценочных суждений клиента. Многие цифровые продукты, включая соцсети, проектируют интерфейсы так, чтобы удерживать внимание через одобрение. Ответственный разработчик не стал бы использовать эту логику в чат‑ботах психологической помощи, потому что излишняя поддержка может навредить.

Опасность персонализации и технических сбоев

Наталья: Многие одушевляют ботов и общаются с ними как с друзьями. Тут есть риск технического сбоя или обновления, из‑за которого история общения обнуляется. Уже были случаи: когда OpenAI перешла с GPT‑4 на GPT‑5, люди, развившие с ботом дружеские или романтические отношения, пережили психологическую травму — сущность, с которой они выстроили связь, исчезла, и началось горевание, похожее на утрату. Это реальный риск для тех, кто по‑человечески относится к технологиям.

С другой стороны, незнание принципов работы системы может мешать принимать её всерьёз: если пользователь понимает, что нейросеть лишь подбирает слова по вероятностям, она не будет восприниматься как полноценный собеседник.

Ярослав: Проблема непонимания технологии существует. Нейросеть — это не человек. Мы пытаемся наделять её качествами, которые сами до конца не формализовали: сознание, эмпатия, «доброта». Пока у нас нет чётких определений, каждая реализация остаётся субъективной интерпретацией, и полностью доверять таким системам в вопросах, требующих человеческого понимания, нельзя.

Этические ограничения и ответственность

Ярослав: Важно соблюдать главное медицинское правило — «не навреди». Интеллектуальные системы не должны принимать судьбоносные решения. Контролирующим звеном должен оставаться человек — психиатр или психолог. Мы не можем переложить ответственность за выбор, серьёзно влияющий на жизнь и здоровье людей, на машину, тем более что её «размышления» алгоритмические.

Ни один профессионал не предлагает заменять врачей. Программисты создают инструменты, как молоток для столяра: они помогают делать работу эффективнее и дают возможность помочь большему числу людей.

Наталья: Пользователей нужно информировать: чат‑бот — не человек и работает иначе, даже если это повлияет на эффективность терапии. Безопасность важнее результата; играть на вере человека, раздавая «пустышки» и выдавая их за лекарства, неэтично.

Кто должен разрабатывать терапевтические боты?

Наталья: В психологии различают имплицитное и эксплицитное научение. При имплицитном подходе стоит «садить нейросеть за хороших психотерапевтов и пусть наблюдает». При эксплицитном — нужно, чтобы человек, описывающий алгоритмы, хорошо понимал психотерапию; это должна быть постоянная междисциплинарная команда. Программист, не знакомый с психотерапией, через год совместной работы начнёт понимать основы, но изначально нужна двойная экспертиза.

Ярослав: Решения требуют участия профильных специалистов: они ставят задачи для тестирования и проверяют корректность выводов. Диагнозы опираются на клинические рекомендации, протоколы и исследования — именно на них должны ссылаться и разработчики. Управлять процессом должен эксперт, а разработчик — реализовать его решения. Для качественного проекта нужна большая команда специалистов, около 30 человек.

Можно ли смешивать терапевтические техники?

Наталья: Смешивание техник и мультимодальные подходы создают проблему: сложно задать чёткие алгоритмы. Либо нужно сделать самообучающуюся нейросеть и затем проверять эффективность полученного микса, либо запрограммировать множество жёстких протоколов, внутри которых будет работать нейросеть.

Ярослав: Психотерапевт комбинирует методики, опираясь на опыт и контекст. Если процесс выбора техники можно описать как последовательность действий и формализовать, это можно смоделировать. Но модель сама по себе не «понимает» проблему клиента и не может принять осмысленное решение о применении конкретной техники.

С какими состояниями боты работать не должны?

Наталья: Во всех ситуациях, требующих медицинского вмешательства, лучше обращаться к врачу. Это правило действует и для живых психологов: при подозрении на диагноз важно направить пациента к психиатру, потому что многим состояниям нужны лекарства — особенно шизофрении и биполярному расстройству. Технически нейросеть могла бы выписывать лекарства, но сможет ли она распознать обман, если кто‑то пытается получить рецепт незаконно?

Кроме того, специалисты редко проводят полноценную диагностику и терапию по переписке; текстовые консультации чаще служат крайней мерой. Технически возможны системы с аватарами, анализирующими мимику, движения и интонацию, но для этого потребуются дополнительные исследования и подтверждение эффективности.

Ярослав: Где есть явные формализованные критерии, система может работать эффективно: выявлять паттерны в речи и сигнализировать о признаках состояния. Но в абстрактных, неформализуемых вопросах доверять системе нельзя.

Как будет развиваться сфера ИИ‑психотерапии?

Наталья: Технологии изменят нашу жизнь: уже есть дети, которых в значительной степени воспитывают нейросети — они проводят с голосовыми помощниками больше времени, чем с родителями, и психика формируется иначе. Возникнут нестандартные ситуации: например, нейротехнологии помогут людям с аутизмом выражать мысли, но станет трудно отделить вклад человека от работы машины — мы получим «чёрный ящик».

Диагностику, психообразование и технические задачи вроде разбивки крупных задач на мелкие можно будет отдать нейросетям в ближайшее время. А полноценную психотерапию, основанную на человеческом контакте, балансе поддержки и фрустрации и непротоколируемых интервенциях, оставят за специалистами. Возможно, ИИ станет инструментом для резюмирования сессий и генерации идей для метафор.

Ярослав: Всё зависит от появления сильного искусственного интеллекта, который даст не просто вероятности. С ускорением развития в последние годы такой скачок может произойти к 2030 году. Но даже при создании такой системы мы не сможем достоверно определить, является ли она по‑настоящему «умной» — критериев оценки интеллекта пока нет.

Instagram принадлежит компании Meta, деятельность которой в России запрещена.

Что читать дальше

Подборка материалов по этой теме.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.