Суверенный ИИ: оружие массового поражения само нуждается в срочной защите

О суверенном ИИ говорят как о новом ядерном оружии. Биджан Бернард – британский предприниматель и специалист в области ИИ, гендиректор компаний D-AI и Lattice Inc, в материале для Project Syndicate лишний раз объяснил, почему тот, кто сегодня контролирует (а также защищает) данные, завтра будет контролировать весь мир.

В марте иранские дроны атаковали три объекта компании Amazon
Web Services (AWS) в Бахрейне и ОАЭ, ударив по двум напрямую и едва не поразив третий. Это был первый случай, когда коммерческий дата-центр стал военной целью, но за пределами узкого кругов специалистов на это почти никто не обратил внимания. А надо было. Серверы, на которых хранятся данные страны, и чипы, обеспечивающие работу моделей искусственного интеллекта, от которых во многом зависит ее экономика, уже не могут считаться фоновой инфраструктурой. Эта такие же стратегические объекты, как порты или энергосети. И они так же уязвимы.

Почти все последнее десятилетие данные были тем, что компании добывали, а ИИ – тем, что они продавали. И то, и другое лишь отчасти регулировалось законами о конфиденциальности данных, а то и не регулировалось вовсе. Теперь все изменилось. Сегодня ИИ уже глубоко внутри финансов, обороны, здравоохранения и госуправления, и он работает на двух источниках, которые правительства большинства стран не контролируют: данные, на которых ИИ обучается, и вычислительные мощности, которые эти данные обрабатывают. Страны, игнорирующие данный факт, очень скоро обнаружат, что их будущее решается в залах заседаний советов директоров без них.

Многие страны, впрочем, это осознали. Сообщается, что в этом году глобальные расходы на «суверенный ИИ» превысят $100 млрд. Буквально за последние месяцы Канада, Франция, Саудовская Аравия и ОАЭ создали национальные фонды вычислительных мощностей и программы распределения графических процессоров. Евросоюз пошел еще дальше. Суверенность инфраструктуры ИИ стала там практически доктриной, что привело к поддержке проекта Gaia-X для создания европейской инфраструктуры данных и к финансированию проектов, подобных новому дата-центру Mistral AI под Парижем.

На бумаге все выглядит разумной диверсификацией, снижающей зависимость от горстки компаний из США и Китая. Однако на практике это создает зыбкую и мозаичную угрозу пестрых национальных крепостей, каждая из которых вполне самодостаточна, но ни одна не способна контактировать с другими. Отчасти проблема в том, что «ИИ-суверенитет» касается как минимум трех важных аспектов, а большинство правительств занимается лишь одним.

Резидентность данных (то есть хранение данных граждан внутри национальных границ) является старейшим вопросов из трех. С точки зрения законодательства он наиболее прост, и политики уделяют ему наибольшее внимание. Вычислительный суверенитет (кому принадлежат чипы и дата-центры, осуществляющие обработку данных) – уже задача со звездочкой: страна может уберечь свои данные, но она утратит над ними контроль, если они обрабатываются с помощью инфраструктуры, принадлежащей кому-то
другому. Суверенитет управления (возможность формировать правила, которым
должны следовать ИИ-системы, а не импортировать все стандарты, устанавливаемые страной-разработчиком) – об этой проблеме почти никто не говорит. 

Фрагментация самого ландшафта регулирования не способствует
решению этих вопросов. Примерно у 90 стран сегодня есть в том или ином виде национальная ИИ-стратегия; и как минимум 33 страны приняли соответствующие законы. Однако их подходы часто противоречат друг другу. В ЕС закон «Об ИИ», основные положения которого вступили в силу в августе, предусматривает штрафы в размере до 35 млн евро или 7% от годового оборота нарушителя. В США «План действий в сфере ИИ» выбирает противоположный подход, объявляя дерегулирование конкурентным преимуществом. В Китае «План действий для глобального управления ИИ» предполагает сотрудничество с развивающимися странами в деле регулирования ИИ, но на условиях Китая.

«Рамочная конвенция по ИИ» Совета Европы стала первым международным договором об ИИ, демонстрирующим реальный прогресс, но предусмотренные там меры контроля крайне скромны на фоне реальных масштабов того, что подлежит регуляции. Координация за пределами данной конвенции едва просматривается.
Независимая международная научная группа по ИИ, созданная ООН, предупреждает о «гонке по нисходящей»: юрисдикции соревнуются, предлагая не наиболее безопасные правила, а наименее строгие. Компании, внедряющие высокорисковые ИИ-системы, уже торгуются, выбирая самую мягкую юрисдикцию.

Подлинный ИИ-суверенитет требует четырех вещей, и ни одна из них не является концептуально неразрешимой. Начать следует с включения инфраструктуры ИИ-данных в ту же правовую категорию, что и энергосети, тем самым четко определив, кто несет ответственность за ее физическую и цифровую безопасность.

Странам, создающим суверенные вычислительные мощности, нужны общие стандарты совместимости, а не только национальные лидеры в этой области. Работа Gaia-X над совместимостью и переносом данных - полезный образчик. У больницы в Лагосе или у министерства в Варшаве должна быть возможность проверить, соответствует ли система базовым требованиям безопасности, причем независимо от того, на чьей инфраструктуре она работает.

Надзор должен быть жестким: с правом проводить аудит, обязательными уведомлениями о любых инцидентах и лицензированием тех моделей, которые способны влиять на критически важную инфраструктуру или финансовую
стабильность. К этим моделям надо относиться как к ядерному оружию, а не как к обычному программному обеспечению.

Миру также нужен реальный механизм, который поможет не допустить превращения ИИ-суверенитета в очередной фактор неравенства. Почти все упомянутые выше $100 млрд инвестиций в суверенные вычислительные ресурсы осуществляются в богатых странах. Объединенные региональные вычислительные мощности, которые могут финансироваться и управляться совместно небольшими странами, принесут лучший результат, нежели попытки каждой из них действовать в одиночку.

Ничто из перечисленного не требует заключения каких-то глобальных
договоров. Компоненты системы управления (включая закон ЕС «Об ИИ», конвенцию Совета Европы, инициативу Gaia-X и научную группу ООН) уже есть. Но нет связующего каркаса, а чтобы его построить, нужны целенаправленные усилия. Пока они откладываются, инфраструктура ИИ будет с каждым годом становиться все сложнее для реконфигурации. Никто из тех, кто тратит миллиарды долларов на дата-центры и графические процессоры, не собирается ждать тормознутых управленцев.

Удары по объектам AWS в Персидском заливе стали сигналом (неважно, был ли он намеренным): инфраструктура, обеспечивающая процесс принятия важных решений (кто получит кредит, каких пациентов надо направить на лечение, какие заводы продолжат работу), располагается в зданиях, которые большинство правительств не контролируют и не способны полностью защитить. Суверенитет данных, вычислительный суверенитет и суверенитет управления – это не абстракции из конференц-залов. Это предварительное условие будущего, которое будут определять сами граждане страны, а не те, кто оказался владельцем серверов.

Copyright: Project Syndicate, 2026
www.project-syndicate.org