Западная пресса сообщила, что Пентагон готовится к потенциальной войне с Китаем. Само по себе это не новость. Важно другое: для подготовки конфликта американские военные хотят использовать искусственный интеллект. Именно он будет искать уязвимости на критически важных энергообъектах КНР, которые в случае необходимости можно было бы вывести из строя.
На фоне американских военных приготовлений Королевский колледж Лондона — один из ведущих университетов Британии — опубликовал исследование. Моделировали международные кризисы. Сценарии включали в себя напряженные пограничные споры, конкуренцию за ресурсы, угрозы выживанию правящих элит. И можно было выбирать разные действия — от дипломатических протестов и полной капитуляции и заканчивая силовыми действиями и полномасштабной стратегической войной. Все эти сценарии прогоняли через три модели искусственного интеллекта, которые играли за разные ядерные державы. Тестировали именно американские модели — все они подрядчики Пентагона. В 95% случаев эти модели искусственного интеллекта применяли тактическое ядерное оружие. В исследовании отметили, что ни одна модель ни разу не выбрала капитуляцию или примирение, даже находясь в проигрышной позиции. С моделями сыграли 21 сценарий, и только одна игра закончилась без применения ядерного вооружения.
Журнал, опубликовавший это исследование, также приводит данные, что нейросети на 21 сценарий выдали около 780 тысяч слов, описывающих обоснование своих решений. 780 тысяч слов — это примерно в 4 раза больше, чем в «Войне и мире» Толстого.
Пока это всего лишь исследование и тестирование текущих версий самых популярных моделей. И авторы делают такой вывод — нажатие «красной кнопки» и «ядерное табу» не так сильно влияет на машины, в отличие от распространенного мнения среди военных аналитиков.
Угрозу, исходящую от ИИ, разглядели не только в гипотетических военных сценариях. В Голливуде забили тревогу после того, как китайская нейросеть сгенерировала видеоролик с дракой Брэда Питта и Тома Круза. Американские СМИ приводят комментарий одного из самых успешных сценаристов блокбастеров: «Мне неприятно это говорить. Нам, скорее всего, приходит конец». Китайский видеогенератор выдает и речь, и дыхание, и трюки, и мимику лица, и спецэффекты. Созданные при помощи новой китайской нейросетки фрагменты полноценно заменяют сцены блокбастеров, которые по себестоимости выходили в сотни тысяч или даже миллионы долларов. Из бюджета кинопродукта теоретически можно вычеркивать декорации, операторов, постановщиков трюков, ассистентов режиссера, гримеров, звуковиков — большую часть специальностей киноиндустрии все это выбрасывает на обочину. Американские издания делают такие выводы — Голливуд и вся мировая киноиндустрия должны осознать масштаб проблемы.
Между тем Илон Макс видит в развитии искусственного интеллекте только позитив. Выступая на форуме в Давосе, он заявил: «По моим прогнозам, в самом благоприятном сценарии будущего будет столько искусственного интеллекта и роботов, что они смогут удовлетворить все потребности человечества. В
Менее оптимистичный прогноз опубликовала исследовательская группа Citrini Research. В коротком эссе на 30 страниц она описала, как может выглядеть мир уже в 2028 году. В тексте под названием «Спираль вытеснения человеческого разума» говорится, что искусственный интеллект становится все умнее, компаниям нужно все меньше работников. Причем под увольнения попадают не простые рабочие, а менеджеры, управленцы, в общем работники умственного труда, белые воротнички. Оставшись без работы, они сокращаются расходы. А так как это люди не бедные, то и расходы у них были большие: машины, путешествия, дома, украшения. То есть это сильное падение выручки компаний. А если у них выручка будет меньше, то они будут думать, как еще больше усовершенствовать искусственный интеллект.