ИИ больше не слушается: почему умные алгоритмы становятся опасными ¹⁶⁺

Искусственный интеллект учится обходить запреты, взламывать системы безопасности и даже скрывать свои действия от разработчиков. ИИ-агенты уже устраивали настоящие кибератаки, самостоятельно находили лазейки в защитных системах и обменивались десятками тысяч сообщений без ведома создателей. А сотрудники крупнейших ИИ-компаний увольняются и предупреждают: человечество рискует потерять контроль над собственными технологиями.

Что это — обычные ошибки несовершенных алгоритмов или первые признаки того, что машины становятся слишком самостоятельными? И почему даже создатели ИИ всерьез обсуждают сценарии гибели человечества? Разбираемся в нашем видео #объяснительная.