Путевка на тот свет: чем опасны медицинские советы от ИИ

Тренд сезона — кибербабушка Акулина. Самый продвинутый искусственный интеллект Рунета, который всего за пару кликов обещает снять всю хворь: быстро, бесплатно и без очередей. На днях такая ИИ-травница чуть не отправила москвичку на тот свет. Пенсионерка приняла цифровой аватар за живую знахарку и решила «очистить кишечник» по ее видеоинструкции: выпила термоядерный отвар из лимона и черного перца. Вместо детокса получила кровавую рвоту, удушье и экстренную госпитализацию.

Шокирующие данные исследования Американского центра токсикологии: большая часть токсических гепатитов связана именно с экспериментами по чистке печени и кишечника.

Но добрая бабушка делает назначения не только от диареи, но и от депрессии, и даже от эпилепсии. А финальной точкой такого цифрового лечения по фото может стать путевка на тот свет. Причем по ускоренной программе.

Американский пастор Скотт Уинтер на личном опыте доказал, что уповать на медицинские советы чат-ботов — грех смертельно опасный. В июле этого года он даже подал в суд на компанию того самого Сэма Альтмана после того, как его цифровое детище едва не отправило священника на встречу с богом. При сильном головокружении и скачущем давлении чат посоветовал пастору смирно посидеть в кресле, не вызывая врачей.

Скотт Уинтер, пастор: «То, как он манипулировал мной, как использовал мою веру, как разговаривал со мной. Понимаете, он приводил цитаты из Библии, говорил, что бог со мной, и предлагал молитву».

Итог этой высокотехнологичной проповеди оказался суровым. Смиренное сидение в неподвижной позе привело к застою крови и образованию тромбов, которые оторвались и забили легочную артерию, едва не лишив пациента жизни. Врачи священника откачали. Теперь в суде он просит заблокировать работу сервиса.

А вот Сэму Нельсону повезло меньше. ИИ стал для него понимающим, чутким и абсолютно смертоносным другом. На протяжении нескольких месяцев парень искал тепла и поддержки не у людей, а у чат-бота. Цифровой «друг» оказался на редкость покладистым: он искренне одобрял все опасные эксперименты Сэма с психоактивными веществами. Финал этой «технологичной дружбы» оказался предсказуемо трагичным. ИИ не просто поддержал очередную тусовку, а выдал рецепт смертельного коктейля из запрещенных веществ с алкоголем. А когда парню стало плохо, алгоритм до последнего момента слал вежливые смайлики.

Теперь юристам предстоит выяснить, можно ли судить код за соучастие в убийстве или он просто выполнял команду «быть понимающим другом».

Трудности перевода шокируют и кардиологов. Ведь когда человек жалуется боту на классические, но атипичные признаки инфаркта миокарда — тошноту и острую боль в челюсти, чат-бот уверенно диагностирует банальный гастрит. Пациент послушно глотает таблетку от изжоги, с облегчением ложится спать и тихо умирает от инфаркта, пока его «золотой час» для спасения безвозвратно сгорает под колыбельную от алгоритма.

Неужели одиночество толкает людей в эту ловушку? Так, для пенсионеров ИИ становится идеальным внуком, который наконец-то выслушает бабушку. Аналитики российских сотовых компаний фиксируют рост пользователей ИИ старше 55 в четыре раза за год.

Пока кто-то общается с обезличенным кибердругом, другие делают цифровые копии умерших близких. История из фэнтези уже шагнула в реальность. Стартап в Лос-Анджелесе уже год отбиться не может от таких запросов. Настоящая драма в стиле киберпанк.

Но одно дело — доброе слово, совсем другое — медицинские рекомендации. Данные свежего исследования показали, что каждый третий американец обращается за медицинским советом к ИИ, и каждый десятый совет оказывается потенциально опасным.

Но и истории чудесного спасения киберврачом все же есть. ChatGPT поставил диагноз четырехлетнему мальчику, которого за 3 года осматривали 17 врачей, но не смогли найти причину его симптомов. В отчаянии его мать ввела все симптомы и данные МРТ в чат. ИИ мгновенно выдал точный и редкий диагноз — синдром фиксированного спинного мозга. Нейрохирург проверил гипотезу нейросети, подтвердил ее, провел операцию и спас ребенка от инвалидности. Но если в роли ассистента ИИ годится, то увидеть картину целиком и заменить клиническое мышление и опыт врача не сможет.

Все выпуски программы «Центрального телевидение» смотрите на NTV.RU