Лауреаты Филдсовской премии предупредили об опасности ИИ для науки

Все подписанты являются лауреатами Филдсовской премии. Это самая престижная международная награда в области математики.

В письме говорится, что интересы компаний — разработчиков ИИ и ученых расходятся. Подписанты отмечают, что за последнее время возможности нейросетей «улучшились кардинально — вплоть до того, что они теперь могут решать крупные нерешенные проблемы во многих областях математики». Однако компании по сути используют «решение математических задач в качестве бенчмарка», то есть теста производительности. Иными словами, ИИ используется как инструмент получения готовых ответов, при этом пропускается этап осмысления, считают подписанты.

«В последние месяцы успехи ИИ в решении крупных математических задач попали в заголовки газет даже далеко за пределами математических кругов. Но решение задач — это лишь инструмент и промежуточный этап на пути к достижению главной цели: концептуального понимания и озарения», — сказано в открытом письме.

Отмечается также, что часто о решении тех или иных математических задач, которые долгие годы оставались нерешенными, «объявляют в спешке, не оставляя времени на полноценное оформление работы, выделение новых методов и идей, а также на цитирование релевантных трудов предшественников».

Также подписанты указали на то, что «во многих сферах и видах деятельности годы обучения традиционно служили не только для получения финального ответа или продукта, но и для развития понимания, а также способности формулировать новые вопросы и идеи». При этом искусственный интеллект, опираясь на массив знаний человечества, может выдавать результаты «напрямую».

Кроме того, авторы письма отметили, что с аналогичными проблемами сейчас сталкиваются не только математическое сообщество, но и представители творческих профессий. По мнению подписантов, эти проблемы «указывают на вызовы, с которыми может столкнуться все человечество: как сделать так, чтобы по мере того, как ИИ меняет характер работы, мы не теряли из виду то, ради чего эта работа вообще задумывалась».

Это уже не первое предупреждение от научного сообщества об опасности ИИ. В частности, нобелевский лауреат Джеффри Хинтон в недавнем интервью заявил, что разработка суперинтеллекта сейчас была бы глупостью из-за потенциальных рисков.