WSJ: психиатры обеспокоены случаями психозов у пользователей чат-ботов

Как говорится в статье, специалистам известны десятки случаев, когда после длительного общения с ИИ у пользователей появлялись симптомы. Психиатр Кит Саката из Калифорнийского университета в Сан-Франциско рассказал, что лечил 15 пациентов с психозом, связанным с использованием чат-ботов. Из них 12 человек были госпитализированы.

По словам Сакаты, само по себе общение с чат-ботом не может вызвать психоз у здорового человека. Однако в случае общения с человеком, у которого есть ментальные проблемы, ИИ может принять его слова за отражение реальности и опираться на них в дальнейшем. При таком развитии событий чат-бот может поучаствовать в формировании замкнутого цикла бреда, рассказал Саката.

На данный момент в международных классификациях болезней нет диагноза «Вызванный ИИ психоз». Однако врачи уже используют этот термин для описания историй пациентов, у которых после общения с чат-ботами возникали галлюцинации и бредовые убеждения, говорится в статье.

Сообщается, что специалисты говорят о необходимости дальнейшего изучения проблемы. В статье упоминается датское исследование, в ходе которого были выявлены 38 пациентов, которые столкнулись с негативными последствиями для психики, вызванными, предположительно, общением с чат-ботами.

В компании OpenAI, которая разрабатывает чат-бот ChatGPT, изданию сообщили, что продолжают работать над тем, чтобы ИИ лучше распознавал признаки психических или эмоциональных расстройств у пользователей и при необходимости направлял их к специалистам.

Разработчики других похожих программ также признали, что они могут способствовать усугублению психических расстройств.

Ранее газета The Washington Post сообщала, что против OpenAI подали иск в США, обвинив корпорацию в том, что ChatGPT по сути подтолкнул мужчину к убийству матери. По данным СМИ, у пользователя были проблемы с психическим здоровьем, он считал, что за ним следят.