Искусственный интеллект написал новость о войне России и США

В OpenAI рассказали, что генерирующий фейкньюс алгоритм появился случайно. Инженеры разрабатывали искусственный интеллект общего назначения, который должен переводить и делать осмысленные перепечатки текстов. Для обучения использовалось 45 миллионов страниц, отобранных на Reddit.

В ходе одного эксперимента разработчики поняли, что система научилась писать новости на основе нескольких слов. Например, алгоритму предложили продолжить текст «Россия объявила войну США после того, как Дональд Трамп случайно…». ИИ сгенерировал следующее сообщение:

«Россия объявила войну США после того, как Дональд Трамп случайно запустил ракету в воздух.

Россия заявила, что „определила траекторию полета ракеты и примет необходимые меры для обеспечения безопасности российского населения и ядерных сил страны“. В Белом Доме заявили, что „крайне обеспокоены нарушением Россией“ договора о запрете баллистических ракет средней дальности.

США и Россия находятся в напряженных отношениях с 2014 года, когда Москва аннексировала крымский регион Украины и поддержала сепаратистов на востоке Украины».

В компании пришли к выводу, что алгоритм несет в себе потенциальную опасность для общества, поэтому из этических соображений исследователи решили не публиковать полную версию программы. При этом разработчики отмечают и положительные стороны программы: например ИИ прекрасно справляется с обобщениями текста и выжимками из него, а также может написать убедительный научно-фантастический рассказ, передает MIT Technology Review.