Война роботов: как ИИ-оружие создает единорогов и этические дилеммы

Несколько музыкальных групп удалили свои альбомы из стримингового сервиса Spotify из-за инвестиционной политики основателя и гендиректора стриминга Даниеля Эка. Поводом стали его участие в бизнесе военных ИИ-технологий. Музыканты объясняют свой уход нежеланием, чтобы их искусство связывали с войной. Для Oninvest Роман Могучий разбирался, как развитие мирового рынка оружия c ИИ-технологиями и военных роботов приводит к появлению новых компаний с миллиардной оценкой — и одновременно к ожесточенным этическим спорам.

В 2021 году партнеру McKinsey Гундберту Шерфу, игровому разработчику Торстену Райла и ML-инженеру Никласу Кёлеру было сложно нанимать сотрудников в их военный стартап Helsing — найм инженеров превращался в дебаты об оборонной промышленности. В 2025 в офисах компании в Мюнхене, Берлине, Лондоне и Париже работают 600 человек, а в последнем раунде финансирования компания привлекла €600 млн, после чего инвесторы удвоили оценку ее оценку до €12 млрд. И в первом и в последнем раунде лидерами ключевым инвестором стал фонд Даниэля Эка Prima Materia. Для него, как и для других инвесторов, толчком к инвестициям в оборонные компании стало российское вторжение в Украину. 

Война повлияла на весь оборонный рынок. В одном только 2022 году военные расходы в Европе испытали крупнейший рост за последние 30 лет, говорилось в исследовании Стокгольмского института исследования проблем мира. В 2025 Евросоюз договорился о создании оборонного фонда на €150 млрд. Значительная часть расходов уходит на новые виды вооружений, для которых украинский фронт уже стал испытательным полигоном.

Военные с обеих сторон испытывают и активно используют дроны с элементами искусственного интеллекта, автономные платформы, роботизированные комплексы. Это подгоняет и другие страны. К 2034 году рынок автономных вооружений может вырасти с $44 млрд до $73 миллиардов, среднегодовой темп роста 5,86%, прогнозирует Precedence Research. За 6 лет на автономные системы ушла треть финансирования в европейских оборонных стартапах, подсчитала McKinsey.

«Деньги больше не оправдание, они теперь есть», — цитирует министра обороны Германии в разговоре с Reuters основатель стартапа ARX Robotics Марк Витфелд. ЕС планирует допускать к военным тендерам в первую очередь европейских производителей. На эти бюджеты претендуют десятки новых компаний. В мае сразу две из них — немецкий и португальский производители дронов Quantum Systems и Tekever — привлекли инвестиции  свыше миллиарда долларов.

Еще три производителя автономных военных систем с оценкой больше миллиарда работают на американском рынке — это Anduril Industries, Skydio и Shield AI. Их будет больше — в июле президент США Дональд Трамп подписал 28-страничный план по развитию ИИ-инноваций, в том числе в оборонной промышленности. «Соединенные Штаты должны активно внедрять ИИ в вооруженных силах, если хотят сохранить глобальное военное превосходство», — говорится в документе. Но у этих планов есть заметное противодействие.

В 2013 году ряд неправительственных организаций, в число которых входят Amnesty International, Human Rights Watch, Handicap International и другие известные НКО, запустили кампанию «Остановите роботов-убийц», призывающую запретить автономные вооружения.

Авторы кампании предупреждают, что роботизированные вооружения бросают вызов человеческому контролю над применением силы и дегуманизируют человека, передавая алгоритмам право принимать решения о жизни и смерти.

В 2025 году ООН провела международные консультации по вопросу юридических, технических, этических и гуманитарных аспектов автономных вооружений: к следующему году организация планирует согласовать юридические вопросы по полному запрету такого оружия.  «Хотя распространение таких технологий в военном и правоохранительном секторе неизбежно, еще не поздно установить юридически обязательные правила, ограничивающие производство и использование автономных систем вооружений», — заявил Oninvest исследователь Amnesty International по вопросам проблем обороны, безопасности и правопорядка Патрик Вилкен. 

Решение о применении силы против людей или вблизи них требует обработки высокого уровня постоянно меняющейся контекстуальной информации, требующей человеческого понимания и чувствительности, объясняет эксперт. Категоризация людей машинными алгоритмами может создавать здесь неприемлемые риски неправильного выбора цели.

Исполнительный директор Stop Killer Robots Мэри Уэрхэм считает, что ошибки ИИ на поле боя значительно затруднят установление ответственности за совершение военных преступлений. «Кто будет нести вину за такие деяния? Производитель? Человек, создавший алгоритм?» — спрашивает она.

«Инвесторы и компании несут ответственность за соблюдение прав человека», — заочно отвечает Патрик Вилкен. Эта ответственность включает в себя проведение строгих этических границ вокруг того, какие типы технологий следует исследовать, разрабатывать, производить и продавать, исключая системы, которые создают неприемлемые риски для прав человека». И хотя законодательного запрета на разработку автономных систем нет, многие разработчики считают работу в таких компаниях морально неприемлемой для себя лично.

В 2018 году сотрудники Google организовали масштабный протест против программы использования искусственного интеллекта для анализа видео с дронов. Около 4000 сотрудников подписали внутреннюю петицию с требованием отменить контракт, он не был продлен. Протесты против сотрудничества с военными (не всегда с очевидным успехом) проводили сотрудники Microsoft и Amazon.

В 2022 году коалиция из производителей роботов Agility Robotics, ANYbotics, Boston Dynamics, Clearpath Robotics, Open Robotics и Unitree пообещала не использовать роботов в качестве оружия и следить за тем, чтобы этого не делали их клиенты.

При этом Boston Dynamics разрешает использовать своих роботов военным для выполнения логистических задач, в том числе для доставки боеприпасов, Clearpath Robotics работает с военными заказчиками, а роботы Unitree были замечены на учениях Народно-освободительной армии Китая с установленными на них пулеметами. 

Сторонники автоматизированных систем говорят, что их использование может снизить потери среди военных и гражданского населения за счет сокращения числа людей на поле боя, а также  исключения  эмоций и усталости оператора из решения при нанесении удара. Сооснователь Helsing Торстен Райл в интервью Wired говорит, что не понимает логики инженеров Долины, выступающих против сотрудничества с военными: «Если мы хотим жить в открытом и свободном обществе, быть теми, кем хотим быть, и говорить то, что хотим, нам нужно иметь возможность защитить общество».

Кто будет решать, является ли общество свободным или нет, остается неясным, отмечает издание, Райл вопрос на эту тему проигнорировал. Может быть такое решение когда-нибудь тоже будет принимать машина.