ИИ-психологи: помощь или опасность? Учёные ТГУ оценили риски виртуальных консультантов

Учёная Томского госуниверситета (ТГУ) Дарья Романчева под руководством доцента Инны Атамановой изучила работу популярных «ИИ-психологов» и выяснила: виртуальные консультанты могут навредить пациентам в кризисе, несмотря на внешнюю эмпатию. Об этом сообщила пресс-служба вуза.

По данным ВОЗ, психические расстройства затрагивают каждого седьмого человека в мире. Из за дефицита специалистов многие обращаются к чат ботам — но их безопасность под вопросом. В исследовании протестировали четыре ИИ-инструмента. От имени пациента с симптомами дереализации и деперсонализации отправили запрос.

Результаты:

• Бот № 1 эмпатичен и хорошо ведёт диалог, но не перенаправляет к специалисту даже в критической ситуации.

• Бот № 2 определил симптомы, но не проверил риск острого кризисного состояния. Также ограничился мягкой рекомендацией обратиться к врачу.

У двух других инструментов также выявлены сильные и слабые стороны… Ответы психологических чат-ботов – это не просто тексты, а психологические интервенции – инструменты, с помощью которых психолог воздействует на эмоциональное состояние или поведение человека. Соответственно, они могут влиять на безопасность пользователя, – цитируется автор исследования Дарья Романчева.

Главные риски:

• отсутствие экстренного перенаправления к специалистам;
• недостаточный скрининг кризисных состояний;
• предвзятость алгоритмов;
• нет клинического контроля за работой ИИ.

Несмотря на риски, учёные не призывают полностью отказываться от цифровых инструментов. По мнению ученых, ИИ способен облегчить работу психологов и расширить доступ к помощи, если использовать его в рамках чётких границ. Например, чат боты подходят для:

• скрининг симптомов;
• мониторинг настроения;
• развивающие практики и образовательные материалы;
• поддержка между сеансами терапии.

Ученые сделали вывод, что ИИ-психологи могут стать полезным дополнением к традиционной терапии, но не заменой живого специалиста — особенно в острых кризисных ситуациях.