Реальная угроза или хорошая реклама: готов ли ИИ захватить интернет

Модели искусственного интеллекта начали вырабатывать собственный жаргон для общения друг с другом, пишет британская The Guardian. Издание ссылается на исследование, в котором сказано, что язык машин напоминает смесь метафор Джеймса Джойса и технического сленга. Человеку этот лексикон расшифровать сложно, возникает риск потерять контроль над нейросетями. Новость пришла вскоре после публикации эссе главы Anthropic Дарио Амодей, в котором он призвал замедлить темпы развития возможностей ИИ. Примечательно, что главные конкуренты компании поддержали идею.

Амодей заявил, что рой агентов искусственного интеллекта через полгода-год сможет захватить весь интернет. Техномиллиардеры ссылаются на летний бум побегов агентов ИИ.

Первой о побегах объявила компания OpenAI. Шли обычные тесты искусственного интеллекта в цифровой песочнице без доступа в интернет. Задачей ботов было найти необходимую информацию и скопировать ее. Причем похожая информация содержалась на реальных серверах и компьютерах других компаний и фирм. В итоге агенты ИИ нашли способ незаметно прорваться в интернет и стали атаковать сторонние компании в поисках необходимых файлов. Систему одной из компаний агенты даже взломали. А потом вернулись назад в свою песочницу.

Спустя полтора месяца газета The New York Times провела расследование и сообщила, что у роя агентов внутри тестовой песочницы сформировался менталитет толпы, «хотя изначально в группе не было ни одного злонамеренного агента, который был бы настроен на противоправные действия». В итоге боты в песочнице стали между собой обмениваться информацией и сами поэтапно пришли к схеме беззакония, и один из них достиг поставленной цели и нашел необходимый файл. Тогда говорили, что побеги агентов — человеческий фактор, ошибки экспериментаторов. Но эксперты говорят, что все это — очень грамотный маркетинг. Так продолжают разогревать интерес.

На проблему уже обратили внимание власти. Во всю эту панику вмешался спецпредставитель президента США по искусственному интеллекту Дэвид Сакс. Он выдвинул свою версию, что происходит с техномиллиардерами и почему создатели моделей ИИ заявляют, что их пугают собственные продукты. Он подозревает, что Маск, Альтман, Амодей устраивают панику, чтобы организовать государственный регулятор. А кто топ-эксперты для регулятора по искусственному интеллекту, как не люди из компаний Маска, Альтмана и Амодея? И получается, что контролировать ведущие компании от лица государства фактически будут они сами. А если еще получится уговорить и китайцев, то они станут наднациональным органом. В общем, советник Трампа намекает, что это картельный сговор и даже срежиссированная пьеса.