ИИ на линии фронта

Forbes утверждает, что искусственный интеллект (ИИ), вероятно, станет одной из самых преобразующих технологий века. Он быстро становится важным фактором в международной политике. Страны, готовящие (а во многих случаях уже внедряющие) инструменты ИИ для обеспечения безопасности, разведки, международных отношений и торговли, прекрасно осознают их потенциал.

Прогнозируется, что влияние ИИ будет настолько значительным, что, по данным аналитического центра RAND, «государства по всему миру могут увидеть рост или падение своей мощи в зависимости от того, как они используют и управляют развитием ИИ».

«От лука и стрел до атомной бомбы война всегда была ключевым фактором технического прогресса», — пишет обозреватель Forbes Бернард Марр. Сейчас этот процесс идет гораздо быстрее: бывший глава Объединенного комитета начальников штабов США генерал Марк Милли заявлял в 2023 году, что «быстро развивающиеся технологии вызывают самые значительные фундаментальные изменения в характере войны, когда-либо зафиксированные в истории».

Большая часть современных технологий была предоставлена Украине западными компаниями в надежде, что это даст Украине преимущество над гораздо более крупным противником.

Как утверждает Forbes, с 2022 года украинское правительство поставило технологии в целом — и искусственный интеллект в частности — на передовую своей военной стратегии. До 2022 года на Украине около 300 000 человек было занято в технологическом секторе, и после начала конфликта многие стартапы переключились на разработки, которые могли бы помочь военным. Власти Украины создали платформу финансирования Brave1, чтобы позволить компаниям предлагать инвесторам продукцию оборонных технологий. Сообщается, что она получила тысячи заявок.

Одним из главных технологических прорывов, используемых на Украине, Forbes называет использование автономных дронов. Хотя беспилотные летательные аппараты использовались во многих конфликтах за последнее десятилетие, они обычно пилотируются людьми дистанционно. «Сегодня на Украине, как сообщается, используются дроны, способные отслеживать и поражать противника без человеческого взаимодействия — другими словами, настоящие роботы-убийцы», — говорится в статье.

Также используется BAD — похожий на собаку автономный робот, разработанный британской компанией Alliance, который скрытно перемещается по зонам боевых действий, обнаруживает позиции противника, а также минные поля с помощью теплового зрения. Он также может переносить боеприпасы, обеспечивая пополнение запасов солдат.

Украинские военные также демонстрировали использование автономного пулемета, который, как сообщается, использует искусственный интеллект для обнаружения перемещающегося противника и наведения на цель.

Как отмечает Forbes, не все системы ИИ, используемые на Украине, ориентированы на военные задачи, есть и гуманитарные варианты использования. Так, ИИ используется для содействия переселению беженцев и внутренне перемещенных лиц. Он отслеживает состояние дорог и инфраструктуры, а также вычисляет оптимальные маршруты для доставки продовольствия и предметов первой необходимости.

ИИ также используется для анализа данных в поиске решений, которые могут помочь в обезвреживании наземных мин, так как Украина на сегодня стала самой заминированной страной в мире.

Также сообщается, что ИИ собирает материалы о передвижении войск с привязкой к спутниковым данным. Кроме того, отрабатывается использование технологии распознавания лиц, предоставленной американской компанией Clearview — в обоих случаях якобы для возможного противодействия военным преступлениям.

Автор Forbes уточняет, что подобные тенденции поднимают множество этических вопросов. Например, должны ли технологические компании разрабатывать инструменты, которые открыто противоречат принципам «безвредного» ИИ?

Ранее сообщалось, что американская компания Palantir, занимающаяся анализом данных, разрабатывает военные приложения. По данным The Times, инструменты Palantir использовались Украиной для сбора разведданных с помощью обработки искусственным интеллектом различных источников информации: данных коммерческих спутников, тепловых датчиков и разведывательных беспилотников, а также шпионов и гражданских лиц, которые сообщали о расположении российских войск через специально созданный телеграм-бот. Бернард Марр отмечает, что компания Palantir в прошлом уже подвергалась проверке из-за участия в разработке технологий наблюдения.

Также автор задает вопрос о том, будет ли этически оправдано позволять машинам принимать решение об убийстве. «Например, украинская технология пулеметов с ИИ способна идентифицировать цели как противника, но для того, чтобы открыть огонь, все еще требуется человек-оператор. Но будет ли так всегда? — спрашивает обозреватель. — Упомянутые выше роботы-собаки используются для разведки и снабжения, но Китай продемонстрировал похожую технологию, оснащенную пулеметом и способную участвовать в бою».

Также, по мнению автора, существует риск переоценки роли ИИ и технологий в войне. «Не следует забывать, что подавляющее большинство сражений по-прежнему осуществляется людьми, стоящими по колено в грязи, у который в ушах звенят звуки артиллерии», — пишет автор Forbes. Преуменьшение ужаса и опасности их положения путем представления войны как ведущейся в основном роботами и программным обеспечением создает риск «замыливания» жестокости военных действий.

Автор Forbes утверждает, что хотя используемый на Украине ИИ, похоже, сейчас не участвует в реальном убийстве людей, технология, которая пересекает эту красную черту, находится в стадии разработки.

Бернард Марр резюмирует, что технологические и этические разработки не всегда развиваются с одинаковой скоростью. ИИ поднимает серьезные вопросы об уровне власти и автономии, которые люди готовы передать роботам. То, как человечество ответит на эти вопросы, может иметь большие последствия для того, как ИИ повлияет на общество и в мирное время.