FT: финансисты считают, что новейшие модели ИИ угрожают банковской системе

Как сообщает газета Financial Times, на этой неделе в Вашингтоне прошли весенние встречи МВФ и Всемирного банка, на которых присутствовали министры финансов, главы центральных банков и регулирующих органов. И если в том году центральной темой были новые импортные пошлины Вашингтона, то в этом все обеспокоены новейшей моделью ИИ, разработанной стартапом Anthropic из Сан-Франциско.

Anthropic представила Claude Mythos в начале апреля, но отказалась от публичного релиза. Компания объявила о закрытой программе Project Glasswing, в рамках которой модель передали лишь нескольким организациям и банкам, включая Amazon, Apple и JPMorgan Chase, предоставив им возможность поэкспериментировать с ИИ и начать устранять обнаруженные уязвимости в своих системах.

Обеспокоенность вызывает способность Mythos находить ранее невыявленные незащищенные места в ПО. Разработчики предупредили, что с учетом прогресса в области ИИ, пройдет немного времени, прежде чем возможности Mythos будут доступны большему числу лиц и смогут попасть и в руки злоумышленников. Последствия для экономики, общественной безопасности и национальной безопасности могут быть существенными.

«Это очень серьезная проблема для всех нас. Это напоминает нам о том, как быстро меняется сфера ИИ», — заявил Эндрю Бейли, управляющий Банка Англии и председатель Совета по финансовой стабильности глобальных регуляторов. Он подчеркнул, что регуляторам необходимо будет оперативно оценить потенциальную угрозу кибербезопасности для финансовой системы со стороны искусственного интеллекта.

«Mythos и Anthropic — хороший пример ответственной компании, которая вдруг подумала: „О, это может быть действительно отлично, но если это попадет в чужие руки, то это может стать катастрофой“», — заявила президент Европейского центрального банка Кристин Лагард.

Некоторые чиновники призвали к скоординированному международному ответу на угрозу со стороны Mythos, которая, как сообщили в Anthropic, уже «обнаружила тысячи серьезных уязвимостей, в том числе во всех основных операционных системах и веб-браузерах».

На прошлой неделе глава американского Минфина Скотт Бессент и председатель ФРС Джером Пауэлл созвали экстренное совещание с руководителями крупнейших банков чтобы обсудить киберугрозу из-за Mythos. FT пишет, что в Вашингтоне были одновременно впечатлены и встревожены способностью ИИ автономно принимать решения о том, как решать выявленные проблемы и обеспокоены отсутствием регулирования для разработчиков таких моделей. Официальные лица говорят, что власти рассматривают вопрос сотрудничества с Anthropic.

Европейские регуляторы отмечают, что большинство из них не смогли протестировать новую модель и определить уровень угрозы, которую она представляет.

При этом многие представители центробанков скептически относятся к возможности скоординированного глобального ответа на угрозу ИИ, учитывая нынешнюю геополитическую напряженность, которая усугубляется в том числе конфликтом на Ближнем Востоке.