Замедлить ИИ сложнее, чем кажется: кто в итоге заплатит за паузу?

Всем разработчикам выгодно замедлить развитие ИИ, а вместе с ним и гонку расходов, но каждой компании по отдельности — нет. Поэтому главный вопрос в том, смогут ли участники рынка договориться не только о правилах совместной работы, но и о контроле за их соблюдением. При этом одним из главных бенефициаров такого замедления может оказаться Китай. Подробности — в материале советника президента «Алматы Менеджмент Университета» (AlmaU) Вадима Новикова.  

Замедлить темпы развития ИИ 12 сентября призвал глава Anthropic Дарио Амодеи в эссе We Must Pace the Frontier. Он отметил, что не предлагает остановить развитие отрасли: «Замедление не означает остановки обучения моделей или технического прогресса».

План Амодеи состоит из трех частей. Он начинается с внешнего контроля. Независимые оценщики должны получить доступ к испытаниям, инцидентам и обучению моделей. Лаборатории могли бы вместе проверять кибернетические и биологические риски. Более сильный вариант — ограничить вычисления, обучающие запуски или применение ИИ для создания новых моделей.

Призыв Дарио Амодеи поддержали конкуренты Anthropic. В частности, глава OpenAI Сэм Альтман пообещал «привлекать независимых экспертов, которые будут иметь доступ к системе наравне с сотрудниками». Microsoft, в свою очередь, опубликовала версию правил для ИИ — с прописанными ограничениями. Против замедления к текущему моменту выступили глава Nvidia Дженсен Хуанг — главный поставщик чипов для сектора ИИ, а также гендиректор Meta Марк Цукерберг. 

Но пока никто не предложил общей меры темпа, способа обнаружить нарушение и последствий для нарушителя.

А это вопрос не праздный. Здесь безопасность превращается в задачу конкуренции. Лабораториям и компаниям, участвующим в гонке ИИ, нужно заключить соглашение, которое по сути каждой выгодно нарушить. Без государственного участия по сути соблюсти его невозможно. 

Чтобы понять риски для компаний и лабораторий, которые, к слову,  собрались на IPO, нужно разобраться, зачем им всем пауза. 

Обучение модели требует специальных чипов, сети и электричества. Готовая модель тоже расходует энергию, отвечая пользователям. По оценке Our World in Data на основе данных Международного энергетического агентства, в 2025 году на центры обработки данных для ИИ приходилось около 2% потребления электричества в США. Это уже заметная часть энергетической системы.

Физический масштаб превращается в финансовое давление. По данным Financial Times, за 2025 год чистый убыток OpenAI составил около $39 млрд. Часть связана с неденежной переоценкой прав инвесторов. При этом компания потратила $34 млрд. Она пока не финансирует развитие текущими доходами. 

Совместное замедление не отменит обязательств по подписанным договорам, но могло бы сдержать рост новых обязательств и повлияло бы на динамику роста капитальных расходов компаний, участвующих в гонке ИИ.  Этот показатель уже давно не дает покоя инвесторам. 

Правда, возможная экономия не устраняет конкурентного риска. Замедлиться в одиночку для лаборатории почти самоубийственно: пока она откладывает следующий цикл обучения, соперник может выпустить более сильную модель, привлечь пользователей и капитал.

Чтобы понять, как это работает, можно посмотреть на нефтяной картель ОПЕК. Странам вместе выгодно ограничить добычу, но каждой отдельно лучше продать больше, пока остальные соблюдают квоты. У лабораторий тот же конфликт: всем выгоднее снизить темп расходов, каждой — продолжить гонку после остановки других. Это картельная логика, а не готовая юридическая оценка плана Амодеи.

Устойчивая координация, которую выгодно нарушить, держится на трех вещах: договориться о правиле, обнаружить обман и сделать его невыгодным. Эту рамку называют consensus–detection–punishment. Луис Каплоу из Гарварда и Карл Шапиро из Калифорнийского университета в Беркли так суммируют стандартную модель устойчивого сговора. 

Проверим план Амодеи по этим условиям.

— Consensus: о чем договориться

Участники находятся на разных позициях в гонке, поэтому могут хотеть разного замедления. Лидеру выгоднее пауза в выпуске моделей: она сохраняет его преимущество. Догоняющая компания может предпочесть ограничить только следующий крупный цикл обучения, но сохранить право выпустить уже подготовленное улучшение. Предел вычислений тоже действует на компании неодинаково: разные данные и методы позволяют получить разный результат на одном оборудовании. Значит, сначала нужно согласовать, что именно замедлять и как измерять темп. Наконец, участникам придется одинаково понимать безопасность. Защита от кибератаки и защита человека от риска, который он сознательно выбирает, — разные задачи.

— Detection: как увидеть нарушение

Отсутствие нового продукта не доказывает остановку разработки. Поэтому внешним оценщикам нужен доступ к обучению, внутренним испытаниям и сведениям об инцидентах, а не только к готовой модели.

— Punishment: как сделать нарушение невыгодным

Готовой схемы санкций Амодеи не представил. Но государство могло бы потребовать проверки моделей перед выпуском или сделать необходимость получения госразрешения условием доступа к клиентам. 

Так оно придало бы договоренности силу, которой нет у компаний, желающих уменьшить конкуренцию.

Но сначала государству нужно определить, какая координация конкурентов законна. Совместные испытания и обмен сведениями об угрозах — не то же самое, что договор не обучать или не выпускать модели. 

Американский National Cooperative Research and Production Act — федеральный закон 1993 года, регулирующий совместные проекты компаний с точки зрения антимонопольного законодательства, —  предусматривает особый режим для такого рода исследований и стандартов. Поэтому Амодеи просит посредничества правительства или узкого исключения для переговоров о безопасности. Но разрешение договариваться еще не обеспечивает исполнения.

Даже если американское право позволит договориться, соглашение охватит лишь часть мировой гонки. 

Общий предел зависит прежде всего от двух центров разработки. По данным AI Index 2026, в 2025 году США выпустили 59 заметных моделей, Китай — 35, а занявшая третье место Южная Корея — 8. Поэтому позиция Вашингтона и Пекина важнее согласия руководителей компаний.

Вашингтон сейчас выбирает ускорение. Президент США Дональд Трамп 14 сентября отверг призыв крупнейших американских лабораторий замедлить ИИ, назвав любые попытки ограничить технологию «частью больного заговора». 

При этом американское правительство уже показало — на примере Anthropic, что может контролировать конкретные опасные возможности, когда в июне потребовало закрыть иностранцам доступ к Fable 5 и Mythos 5. Не умея сразу проверить гражданство каждого пользователя, компания отключила модели для всех. Позднее Mythos стала доступна для проверенных организаций. Так государство регулирует модель двойного назначения: не только ее выпуск, но и круг пользователей.

То, что Трамп в штыки воспринял инициативу по замедлению, объясняется просто: он не хочет уступить лидерство в ИИ Китаю. Это еще одна самостоятельная проблема: американские правила не свяжут китайские лаборатории. 

Спустя короткое время после того, как Амадеи призвал замедлить ИИ, председатель КНР Си Цзиньпин тоже выступил с речью. Но в ней содержался противоположный призыв к странам БРИКС: «твердо удерживать инициативу в своих руках», расширять исследования, поощрять обмен знаниями и развитие моделей с открытым кодом. По словам Цзиньпина, для такого обмена Китай создаст для БРИКС сообщество открытого ИИ. Параллельно в понедельник, 14 сентября, китайские власти опубликовали третью версию концепции управления безопасностью ИИ.

Таким образом, Пекин не выбирает между безопасностью и ускорением, а пытается сочетать их.

Общие испытания и обмен сведениями об угрозах вписываются в этот курс. Общий предел темпа — нет, поскольку он может сохранить преимущество американских лидеров. Поэтому проверки возможны даже при продолжающейся гонке, а единое ограничение скорости остается маловероятным.

Поставщикам чипов и оборудования для гонки ИИ не стоит опасаться договора о замедлении в части уже действующих соглашений. Проверка готовой модели не возвращает уже потраченные вычисления и не разрывает подписанные договоры для уже существующих дата-центров. 

Основной риск здесь — не резкое падение использования существующего оборудования, а замедление расширения спроса. В результате для инвестора здесь важен не общий вопрос «остановится ли ИИ», а более узкий: какой следующий проект попадет под проверку и что произойдет с ним — задержка или отмена.

Под ударом перед следующим крупным обучением могут оказаться поставки ускорителей, сетевого оборудования и новых мощностей центров обработки данных. Готовые модели продолжат отвечать пользователям, а часть мощностей сможет получить другие задачи. 

На этом инвестиционный вывод заканчивается. Но практический вопрос о сроках проверки упирается в нормативный: что именно контролеры должны считать безопасностью? Амодеи говорит не только о кибернетических и биологических рисках, но и об alignment — согласовании поведения модели с заданными людьми ценностями и правилами.

Проверить, помогает ли модель провести кибератаку, трудно, но хотя бы понятно, что именно проверяешь. С ценностями сложнее: контролеру придется решать, какие из них должна защищать машина и от каких решений нужно защищать самого человека.

Мы опасаемся, что машина начнет решать за нас ради нашего блага. Но государство умеет делать то же самое и не слушается индивидуальных запросов.

Замедление может дать время определить пределы власти и машины, и государства. Но и оно не даст ответа на древний вопрос: «Кто будет сторожить сторожей?»