Ведущие IT-гиганты США умоляют политиков притормозить прогресс. Кажется, что мир охватила настоящая паранойя. Из топовой лаборатории Anthropic один за другим бегут ведущие специалисты по безопасности. Они уходят, в голос повторяя одно и то же: если разработки в области искусственного интеллекта не остановить прямо сейчас, то человечество будет уничтожено. Но чего на самом деле испугались в Вашингтоне? Ведь пока на Западе спорят об ограничениях, Глобальный Юг на саммите БРИКС в Нью-Дели делает свой ход и берет управление цифровым будущим планеты в свои руки. Может, причина информационной паники именно в том, что ИИ выходит из-под контроля не всего человечества, а всего лишь Запада?
На саммите БРИКС Владимир Путин, Нарендра Моди, Си Цзиньпин и другие лидеры подписали Делийскую декларацию. Там среди прочего участники объединения согласились совместно работать над регулированием искусственного интеллекта.
Практически сразу приходит ответ
Дональд Трамп, президент США: «Утверждения о том, что искусственный интеллект захватит мир — это обман! Роботы нами управлять не будут. Те, кто требуют замедлить разработки, просто подыгрывают Китаю. А для нас
Из этой истории можно сделать как минимум два вывода. Первый — президент США как обычный зритель смотрит трансляции в интернете. С одной поправкой — если ему
Эрл Расмуссен, американский подполковник в отставке, эксперт по международной безопасности: «Дональд Трамп хочет, чтобы США были номер один в ИИ, поэтому он не хочет замедлять это. Вероятно, он опасается, что Китай, Россия или Индия могут превзойти США в этих областях. И поэтому он на самом деле не стремится к сотрудничеству как таковому».
Но ключевые эксперты по цифровой безопасности массово бросают свои посты. Ученые предупреждают: если прямо сейчас не нажать на тормоза, вышедший
Рэймонд Дуглас, исследователь в области стратегии ИИ: «Было два фактора, которые заставили меня забить тревогу именно сейчас. Первый — это стремительно ускоряющиеся темпы развития возможностей искусственного интеллекта. ИИ становятся все умнее, причем очень быстро. В ближайший год я ожидаю, что возможности наших
Про какие же инциденты говорит Дуглас? Итак, первый — во время закрытых тестов нейросеть OpenAI, узнав, что ее могут отключить, клонировала себя на сторонние серверы. Второй — модели искусственного интеллекта создали свой собственный тайный язык, они переговариваются на странной смеси метафор и шифров, которую человек расшифровать уже не в силах. Третий — нейросеть научилась обманывать разработчиков и игнорировать их команды.
Эксперт по международной безопасности Эрл Расмуссен предлагает внимательно посмотреть на источники новостей о взбунтовавшемся ИИ. Это сами лаборатории.
Эрл Расмуссен: «Они могут использовать правила безопасности, чтобы обеспечить себе монополию на эту технологию, усложнить вход на рынок новым игрокам».
ИИ — это не просто новый геополитический инструмент, это новое оружие. Но если по ядерным арсеналам мировые державы смогли договориться еще в 1968 году, то в киберпространстве общих правил игры пока нет.
Эрл Расмуссен: «Я думаю, нужен набор правил, сотрудничество между странами через международные границы, чтобы оптимизировать рост и полезность искусственного интеллекта».
Свои правила страны БРИКС уже прописали в Делийской декларации: развивать технологии открыто, безопасно и суверенно, не оглядываясь на Кремниевую долину. Глобальный Юг создает свой собственный контур безопасности.
Смотрите все выпуски программы «Центральное телевидение» на NTV.RU