Маск допустил, что ИИ превратит людей во второстепенных персонажей симуляции

Идею о превращении мира в симуляцию выдвинул один из пользователей соцсети X. Он написал, что как только будет создан общий искусственный интеллект (Artificial General Intelligence, AGI — интеллект, обладающий когнитивными возможностями человеческого уровня, включая способность к самообучению), то «мы станем просто второстепенными персонажами в симуляции».

«Вероятно, так оно и будет (вздох)», — написал Илон Маск в комментарии к этой публикации.

Основатель SpaceX и гендиректор Tesla Илон Маск является также владельцем стартапа в сфере искусственного интеллекта xAI. Эта компания разработала чат-бот Grok, встроенный в соцсеть X.

Сейчас ИИ находится в зачаточном состоянии, но эксперты прогнозируют, что уже через несколько лет машины достигнут уровня общего искусственного интеллекта, сравнимого с человеческим. А затем превзойдут его, превратившись в сверхразум (ASI), способный решать задачи, недоступные людям: лечить рак, создавать термоядерный синтез или осваивать космос. Звучат опасения, что контролировать такие системы будет практически невозможно.

По оценке бывшего инженера Google и Microsoft Нейта Соареса, вероятность вымирания человечества из-за ИИ составляет «не менее 95%». Один из вариантов катастрофы — сверхразумный ИИ разработает биологическое оружие, незаметно заразит население крупных городов и активирует его по сигналу с помощью химического спрея. Но даже без этого фантастичекого сценария ИИ, по мнению Соареса, может катастрофически изменить жизнь людей, постепенно лишая их прав и возможностей. В этом случае человечество рискует оказаться на «свалке истории» — без политического и экономического влияния, без понимания происходящих процессов, считает эксперт.