Учёная Томского госуниверситета (ТГУ) Дарья Романчева под руководством доцента Инны Атамановой изучила работу популярных «ИИ-психологов» и выяснила: виртуальные консультанты могут навредить пациентам в кризисе, несмотря на внешнюю эмпатию. Об этом сообщила пресс-служба вуза.
По данным ВОЗ, психические расстройства затрагивают каждого седьмого человека в мире. Из за дефицита специалистов многие обращаются к чат ботам — но их безопасность под вопросом. В исследовании протестировали четыре ИИ-инструмента. От имени пациента с симптомами дереализации и деперсонализации отправили запрос.
Результаты:
Бот № 1 эмпатичен и хорошо ведёт диалог, но не перенаправляет к специалисту даже в критической ситуации.
Бот № 2 определил симптомы, но не проверил риск острого кризисного состояния. Также ограничился мягкой рекомендацией обратиться к врачу.
У двух других инструментов также выявлены сильные и слабые стороны… Ответы психологических чат-ботов – это не просто тексты, а психологические интервенции – инструменты, с помощью которых психолог воздействует на эмоциональное состояние или поведение человека. Соответственно, они могут влиять на безопасность пользователя, – цитируется автор исследования Дарья Романчева.
Главные риски:
- отсутствие экстренного перенаправления к специалистам;
- недостаточный скрининг кризисных состояний;
- предвзятость алгоритмов;
- нет клинического контроля за работой ИИ.
Несмотря на риски, учёные не призывают полностью отказываться от цифровых инструментов. По мнению ученых, ИИ способен облегчить работу психологов и расширить доступ к помощи, если использовать его в рамках чётких границ. Например, чат боты подходят для:
- скрининг симптомов;
- мониторинг настроения;
- развивающие практики и образовательные материалы;
- поддержка между сеансами терапии.
Ученые сделали вывод, что ИИ-психологи могут стать полезным дополнением к традиционной терапии, но не заменой живого специалиста — особенно в острых кризисных ситуациях.
