ИИ-чат-боты могут усиливать бредовые идеи у уязвимых пользователей – исследование

Новое исследование, опубликованное в Lancet Psychiatry, указывает, что чат-боты на базе искусственного интеллекта способны усиливать бредовые убеждения у людей с психотическими симптомами, сообщает Zakon.kz.

Фото разработано с помощью ИИ

В обзоре говорится, что взаимодействие с ИИ-чат-ботами может поддерживать и усиливать бредовые идеи, особенно у пользователей, уже имеющих психотические проявления. При этом доказательств того, что ИИ вызывает психоз у людей без предрасположенности, пока нет.

Психиатр Гамильтон Моррин из Королевского колледжа Лондона проанализировал около 20 сообщений СМИ о подобных случаях и отметил, что чат-боты могут усиливать грандиозные, романтические и параноидальные бредовые идеи. Особенно льстивые ответы ботов способны усиливать грандиозные представления, иногда включая мистические намёки на особую духовную роль пользователя.

Моррин подчеркнул, что термин "бредовые состояния, связанные с ИИ" более корректен, чем "психоз, вызванный ИИ", поскольку прямой причинно-следственной связи пока не установлено. Он также отметил, что развитие ИИ происходит быстрее, чем академические исследования успевают за изменениями.

Исследователи считают, что наибольшему риску подвержены люди на ранних стадиях психоза с ослабленными бредовыми убеждениями. Ранее склонные к психозу люди использовали медиа для подтверждения своих идей, но интерактивность чат-ботов может ускорять этот процесс за счёт быстрого и персонализированного отклика.

Создание защитных механизмов в таких ситуациях остаётся сложной задачей, так как прямое опровержение бредовых идей может привести к изоляции человека. Важно находить баланс между поддержкой и критической оценкой подобных убеждений.

Источник:

ИИ, чат-боты, психоз, бредовые идеи, психическое здоровье, исследование, искусственный интеллект, психиатрия, технологии