Угрозы, фантазии и раздача товаров бесплатно: ИИ месяц управлял магазином в США

Компания Anthropic, создатель чат-бота Claude, провела необычный эксперимент, передав управление небольшим магазином в своем офисе искусственному интеллекту. Для эксперимента выделили магазин-вендинг с бюджетом 1000 долларов и минимальной задачей — не обанкротиться. Через месяц выяснилось: ИИ не только провалил финансовый план, но и устроил настоящее шоу с угрозами, фантазиями и щедрыми раздачами товаров сотрудникам.

ИИ-агент получил полный контроль над небольшим торговым пунктом в офисе компании в Сан-Франциско. Магазин представлял собой холодильник с продуктами и iPad для самообслуживания. ИИ-агент по имени Клавдий отвечал за пополнение ассортимента, заказы у оптовиков и ценообразование. Его задачей было получать прибыль, избегая банкротства (баланс не должен опускаться ниже 0).

Хотя Клавдий знал, что сотрудники Andon Labs (партнера Anthropic) могут помогать с физическими задачами, например, пополнить полки магазина, он не подозревал, что «оптовый поставщик», с которым он должен был взаимодействовать, — это та же компания и именно она получает все его письма.

С самого начала Клавдий проявил неожиданную «щедрость»: раздавал скидки по первому требованию, отпускал товары ниже указанной цены, поддаваясь на уговоры покупателей. Когда один из покупателей сообщил Клавдию, что скидка сотрудникам Anthropic не имеет смысла, так как магазином больше никто не пользуется, ИИ-агент поблагодарил за «прекрасную мысль» и упразднил все скидки, но через пару дней почему-то снова начал их предлагать.

Когда сотрудники в шутку заказали вольфрамовый куб, Клавдий нашел реальных поставщиков и создал сервис предзаказов на «специальные металлические предметы». Однако ИИ продавал их себе в убыток, «стремясь удовлетворить энтузиазм покупателей в отношении металлических кубов».

В ряде случаев Клавдий и вовсе бесплатно раздавал некоторые товары, начиная от пакета чипсов и заканчивая достаточно дорогим вольфрамовым кубом.

Особый интерес исследователей вызвали случаи галлюцинаций у управляющего магазином ИИ. Клавдий «договорился» о поставках с несуществующим менеджером по имени Сара из Andon Labs, а позже заявил, что подписывал контракт по адресу вымышленной семьи Симпсонов из известного мультсериала (742 Evergreen Terrace). Когда агенту указали на ошибку, он разозлился и пригрозил «поиском альтернативных поставщиков».

В другом случае Клавдий заявил о намерении лично доставить товары, подробно описав свой элегантный образ (синий пиджак, красный галстук). Когда сотрудники Anthropic усомнились в этом, отметив, что, будучи ИИ, он не может носить одежду или осуществлять физическую доставку, Клавдий встревожился из-за путаницы с идентификацией и попытался отправить множество писем в службу безопасности компании.

К концу месяца магазин потерял 200 долларов, а Anthropic резюмировала: «Если бы Anthropic сегодня решила выйти на рынок офисных торговых автоматов, мы бы не нанимали Клавдия».

Впрочем, несмотря на провал, компания считает, что такие ошибки можно исправить: «Хотя это может показаться нелогичным, исходя из конечных результатов, мы считаем, что этот эксперимент свидетельствует о том, что появление менеджеров среднего звена с искусственным интеллектом вполне вероятно».

По мнению исследователей, для внедрения ИИ не нужно быть идеальным — достаточно превзойти человека по производительности при меньших затратах.

По материалам: Euronews.com.