Восстание машин: люди не поняли, о чем договорились боты Facebook

Испытания программ, которые должны были научиться общаться между собой, дали неожиданный результат: друг с другом они договорились, только вот их создатели практически ни слова не поняли. Корреспондент НТВ Светлана Андреева — об особенностях компьютерного наречия.

Эксперимент запустили еще в середине июня. Его цель — заставить так называемые боты (или диалоговых агентов, которые автоматически генерируют сообщения) общаться в чатах с пользователями так, словно на другом конце не робот, а человек. Боты уже сегодня могут выполнять элементарные задачи. Вот, например, зайдя в чат, вы можете попросить искусственный интеллект рассказать вам о погоде на завтра. Или уже в другом чате попросить подобрать мультик для своего ребенка.

14 июня исследователи соцсети усложнили алгоритм и поставили перед искусственными пользователями куда более сложную задачу. Два бота, как два человека, должны были поделить между собой три мяча, две книги и одну шляпу. А вот как именно, тут уж искусственные пользователи, как живые люди, должны были определиться сами со своими предпочтениями. И аргументировать свой выбор. Первые несколько экспериментов прошли под человеческим контролем. Но вот что получилось, когда их оставили наедине.

Боб: «Я могу я я все остальное».

Алиса: «Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для».

Фразы только на первый взгляд абсурдны. Специалисты объясняют: троекратное повторение слов «я» и «для меня» ботам показалось куда более эффективным, чем использование стандартных конструкций английского языка. Так что для быстрого обмена информацией они отказались от английского и придумали собственный язык. Импровизацию журналисты довольно быстро окрестили «восстанием машин». И стали вспоминать Илона Маска, который уже не раз предсказывал: если границы искусственного интеллекта не очертить законом, когда-нибудь он захватит весь мир.

С угрозой на этот раз Цукерберг справился радикально: отключил всех роботов от Facebook. Уже позже научный сотрудник Дхрув Батра нашел изъян в самом алгоритме. Технари так и не смогли решить задачу, над которой ломает голову все человечество уже несколько десятилетий, — лингвистическую. До сих пор никто так и не смог объяснить искусственному интеллекту, почему мы говорим одно, а имеем в виду другое.

Илон Маск, основатель Tesla и SpaceX: «Боты начнут уходить от понятного нам языка и начнут придумывать кодовые слова друг для друга. Представьте, что я назову какой-то предмет пять раз. Вы сразу интерпретируете это как то, что я хочу пять копий этого предмета. Это не особо отличается от сокращений, которыми пользуются люди».

Для ботов в Facebook уже создают другой алгоритм. Но пока спор Маска, который обещает безработицу всему миру, и Цукерберга, который надеется, что роботы, наоборот, создадут новые рабочие места для людей, которые искусственный интеллект будут контролировать, больше похожи на борьбу двух больших корпораций. Каждый первым хочет заявить, что их искусственный интеллект думает, как настоящий.