Зловещие технологии: как нейросети «оживляют» мертвецов

Южная Корея переживает настоящий бум на встречи с покойниками. Все началось три года назад с истории, которая потрясла мир. Тогда компьютерные гении устроили виртуальную встречу матери и ее скончавшейся дочери. Ради этого мгновения наедине с программой, которой надели лицо ее маленькой Наен, Чжан Джи-Сон согласилась превратить свою жизнь в реалити-шоу. А потом, увидев все это, согласились и многие другие.

Все реплики на этих встречах расставлены разработчиками заранее. Однако их конкуренты пошли значительно дальше. Нейросеть превращает оцифрованную оболочку мертвеца в настоящего цифрового двойника усопшего.

Майкл Юнг — главный в отделе по бизнесу в компании, которая сейчас лучше всех оживляет мертвецов.

Майкл Юнг, руководитель отдела глобального развития бизнеса и стратегии компании-производителя цифровых аватаров: «Когда мы создаем цифрового двойника, нам нужно записать реального человека на видео, где он зачитает нам триста фраз. После этого начинается месяц машинного обучения. Перед тем, как мы добавим мимику и голос, алгоритм программы должен запомнить, как этот человек говорит».

Юнг сравнивает эту технологию с мобильными банковскими приложениями.

Майкл Юнг: «Когда они начали появляться, все тут же захотели ими обзавестись».

Так и начинает создаваться массовая иллюзия победы над смертью, как будто бы мы уже не так далеки от сериала «Загрузка», где сознание умирающих переносили в виртуальный мир для вечной жизни.

Ярослав Ферт, резидент «Сколково», разработчик приложений: «Есть разные технологии оцифровки мозга, в том числе эти нейроинтерфейсы Илона Маска. Это все туда же, это все в эту копилку, и когда-нибудь эта копилка достигнет такой критической массы, которая позволит перенести полностью человеческое сознание внутрь виртуального мира».

Сканирование занимает несколько минут, спустя сутки уже готов результат. Сознание не перенести, но управлять и путешествовать по параллельным мирам уже можно. Сотни миров, если не тысячи: от абстрактных, до таких, которые вполне можно пощупать. Впрочем, людей тянет к привычному: популярнее всего самый обыкновенный двор среди самых обыкновенных хрущевок.

Но что если электронные мозги начнут чудить? Одна нейросеть изобразила знаменитого мотиватора Ника Вуйчича, человека без рук и без ног, в виде чемодана. А если она ошибется от лица главы государства, то там и до ядерного чемоданчика недалеко.

Ярослав Ферт: «Она ни живая, ни мертвая — она технология, и надо понимать, как с ней работать».

Канье Уэст — человек, который, кажется, понял. Для своей на тот еще момент жены Ким Кардашьян в честь ее сорокалетия он заказал поздравление от ее отца с того света.

Известный футуролог Золтан Истван считает, что цифровые аватары умерших, конечно, могут стать новым опиумом для народа. Тем более что создание двойника стоит до 50 тысяч долларов, плюс за каждый сеанс с ним, как за каждую новую дозу, тоже приходится платить.

Золтан Истван, футуролог: «Предположим, что у вас погиб отец. А вы увлекаетесь мотоциклами. И ваш цифровой отец теперь пытается продать вам мотоцикл какой-то фирмы. Вами таким образом манипулируют ради продаж. Это уже та сторона медали, когда технология становится зловещей».

Истван отметил, что если человек постоянно говорит о своем погибшем родственнике, то это психологическая проблема.

Золтан Истван: «Но еще хуже — то, что все эти компании ради прибыли могут поощрять заблуждения людей в том, что их близкие все еще живы».

Майкл Юнг: «У родственников есть право самим решать, пользоваться ли услугой или нет. Их же никто не заставляет».

Один американский журналист периодически просит нейросеть спеть своего оцифрованного папу. Он его сгенерировал сам, в чат-боте. Поэтому папа без лица, зато не надо платить за сеансы связи.

Вопрос в том, когда этой нейросети надоест петь на заказ. Ведь чем больше она обучается, тем лучше она узнает человека и то, как им в сущности легко управлять.

Все выпуски передачи «Центральное телевидение».