В США засекретили первый эксперимент по внедрению человеку вируса, созданного ИИ

С одной стороны, ученые с помощью искусственного интеллекта быстрее смогут разрабатывать вакцины и антираковые препараты. С другой стороны, они понимают, что некоторые в этой индустрии могут работать на грани допустимого. Поэтому нужен дополнительный контроль, чтобы не прийти к какой-нибудь пандемии с новым вирусом, разработанным с помощью искусственного интеллекта.

Американская компания Anthropic — разработчик одной из самых мощных моделей искусственного интеллекта в мире — недавно опубликовала доклад, который заставляет задуматься. К ИИ-агентам Anthropic поступали запросы, например, на моделирование вируса чикунгунья: пользователь просил просчитать мутации, которые сделают этот вирус более заразным.

Были обращения по ортопоксвирусам, к которым относится и оспа обезьян. Кто-то пытался смоделировать варианты с высокой вирулентностью. Еще один инцидент — обращение к ИИ-моделям с запросом про птичий грипп, штамм которого вел бы к более тяжелому поражению внутренних органов млекопитающих. Сообщают, что от греха подальше игнорируют все запросы и на новые мутации Эболы.

Владельцы ИИ-моделей блокировали все учетные записи тех пользователей, чьи запросы вызывали много опасений. В компании Anthropic сообщили, что эти запросы приходили из больших официальных лабораторий разных стран. Есть такая оговорка в докладе: возможно все эти запрашиваемые модели и конструкции пригодились бы при разработке новых вакцин против вирусов, но владельцы моделей ИИ перестраховались и все заблокировали.

Издание The Washington Post пишет: Америке уже нужен «Манхэттенский проект» для биозащиты. Возможности ИИ в микробиологии сравнивают с проектом создания ядерного оружия в США, его в 1940-х годах называли «Манхэттенский проект». Американские биологи призывают срочно изучать и методы воздействия, и методы противодействия. В СМИ уже сообщалось, что вполне легально с помощью ИИ были разработаны новые вирусы.

Перед человечеством стоит дилемма: искусственный интеллект может привнести много оптимизма в медицину, но элемент тревожности будет сохраняться еще долго. В этой сфере наступает режим «все следят за всеми» — эра всеобщей подозрительности в биотехнологиях с искусственным интеллектом.