Несколько семей обвинили ChatGPT в самоубийстве их родственников

Несколько канадских и американских семей обвинили OpenAI и созданный ею чат-бот ChatGPT в подстрекательстве к самоубийству их родственников.

Как следует из материалов дел, четыре человека, в том числе подросток, покончили с собой после общения с ChatGPT, а еще трое получили сильную психологическую травму. Истцы утверждают, что продолжительные беседы с ботом доводили людей до нервного срыва, либо те «впадали в бредовые состояния, иногда приводившие к самоубийству». Родственники погибших и пострадавших требуют компенсации, а также внесения алогоритмов в работу ChatGPT, которые бы автоматически завершали разговоры о суициде.

В OpenAI назвали ситуацию «ужасающей» и заверили, что недавно внесли изменения в чат-бот, которые позволяют ему лучше распознавать и реагировать на психические расстройства, а также направлять людей за реальной помощью.

По некоторым данным, тему самоубийства в общении с ChatGPT еженедельно поднимают более 1 млн человек.