Гонка по правилам и без: четыре сценария будущего искусственного интеллекта

Соглашение об ИИ, которое президент США Дональд Трамп заключил с крупнейшими технологическими компаниями в конце сентября, снижает политические риски для Anthropic накануне ее возможного IPO. Но оно не снимает главного вопроса — как далеко может зайти гонка ИИ. О значении соглашения для инвесторов Anthropic и сценариях будущего развития ИИ рассуждает аналитик Arbat Capital Advisory Services Limited (UK) Алексей Голубович. 

29 сентября президент США Дональд Трамп с помпой объявил о том, что руководители технологических компаний договорились разработать добровольные стандарты в сфере ИИ. 

Заявление последовало после встречи Трампа с руководителями крупнейших компаний сектора ИИ — на встрече были президент OpenAI Грег Брокман, гендиректор Anthropic Дарио Амодеи, CEO Meta Марк Цукерберг, глава Google Сундар Пичаи, глава SpaceX Илон Маск и глава Nvidia Дженсен Хуанг. 

Американский президент назвал соглашение морально обязывающим и даже сравнил его с «конституцией». Компании договорились, что будут привлекать «независимых аудиторов» для проверки работы моделей и предотвращать несанкционированный доступ ИИ к техническим системам. Трамп также заявил, что скоро назначит нового куратора политики Белого дома в сфере ИИ и, возможно, создаст совет из 10 человек, который будет контролировать безопасность ИИ-инструментов.

Формально соглашение должно было стать финалом сентябрьской дискуссии о замедлении ИИ. Ее начал Амодеи, призвав всех участников рынка ИИ более ответственно подходить к развитию технологии. 

Но оказалось, что до конца договориться не вышло: участники дискуссии, как написала газета The Wall Street Journal, за закрытыми дверями раскритиковали Амодеи за его слишком резкие высказывания об угрозах ИИ. Не было единства и в том, что касается самих принципов регулирования, о которых под камеры объявил Трамп. Амодеи, к примеру, считает соглашение лишь началом работы над безопасностью технологии, а кто-то — как Цукерберг — уже окончательным решением вопроса. 

Получается, что до сих пор обсуждение безопасности ИИ состоит из сочетания пропаганды (а именно отрицания рисков) и контрпропаганды (прогнозов неизбежности катастроф). 

Последствия этого соглашения и обозначенных Трампом дальнейших шагов Белого дома по регулированию ИИ в основном существенны для Anthropic: еще 14 сентября американский президент называл разговоры о безопасности ИИ «обманом», но теперь Амодеи оказался среди подписантов соглашения о регулировании интернета — вместе с конкурентами. 

Соглашение появилось перед планируемым IPO Anthropic, в ходе которого компания рассчитывала на оценку более $2 трлн. Теперь, после появления соглашения по ИИ, как минимум политический риск Anthropic перед IPO снижается, но не исчезает: позиция администрации переменчива, кроме того разгоревшийся в этом году конфликт ИИ-разработчика с  Пентагоном не закрыт. 

Вопросы есть и к условиям размещения. С высокой долей вероятности IPO состоится в ноябре, до Дня благодарения, и станет одним из крупнейших в истории. Спрос на единственный публичный актив такого класса будет, но для оценки в $2+ трлн рынок может потребовать от компании уступок — более низкой цены размещения (По данным источников Bloomberg, инвесторы считают, что справедливая оценка Anthropic может составлять от $1,8 трлн до $2 трлн). 

Оценка основана на прогнозах выручки $190–200 млрд в 2028 году (это августовские данные Reuters) и плане по расходованию $518 млрд на облачные технологии и инфраструктуру в ближайшие годы. При этом почти четверть выручки Anthropic в прошлом году поступила от двух клиентов. Сочетание этих показателей совсем не радует инвесторов.

Кроме этого, стало известно, что OpenAI отменила запланированный на октябрь запуск GPT‑6.1 Astra — модели для ChatGPT и Codex, рассчитанной на самые сложные задачи без участия человека. Причина — проблемы с ее безопасностью. 

Резюмируя: для инвесторов все это — негативные сигналы. Рыночные риски Anthropic высоки, крупный конкурент замедляет работу, а давление регуляторов растет. Это не вселяет в инвесторов оптимизм, так как они видят растущий риск обвала акций, связанных с ИИ-сектором, и даже схлопывания рыночного пузыря. 

Что будет дальше, в ближайшие два года? Представим в нескольких сценариях.

— «Управляемые темпы развития» 

В этом сценарии компании будут по закону обязаны привлекать независимых экспертов для оценки рисков, а отрасль — вырабатывать общие стандарты и механизмы уведомления об инцидентах. 

США и другие страны могут договориться о «красных линиях» в отношении наиболее опасных сценариев, включая создание биологического оружия и самостоятельное развитие ИИ без надзора человека. Реализация такого сценария возможна при усилении общественного давления, формировании двухпартийного консенсуса в США и создании коалиции «средних держав». Однако он остается маловероятным из-за разногласий между США и КНР и растущей долговой нагрузки ИИ-компаний. Огромные вложения в инфраструктуру уже сделаны, и компаниям необходимо рассчитывать на дальнейший рост выручки, чтобы оправдать эти инвестиции. То есть им, по сути, не нужны ограничения. 

— «Продолжение конкуренции с частыми инцидентами» 

Наиболее вероятный сценарий. Конкуренция между странами и компаниями продолжится, а добровольные меры отдельных разработчиков по ограничению развития ИИ не смогут заменить обязательные для всех правила. Международные соглашения, вероятно, будут оставаться преимущественно на уровне деклараций. Число инцидентов, связанных с ИИ, будет расти, однако в большинстве случаев они не приведут к катастрофическим последствиям.

— «Доведение до кризиса»

Сценарий, при котором крупный инцидент, например военный конфликт, масштабная кибератака или сбой критической инфраструктуры, станет катализатором для изменения политики США в сфере ИИ. Власти могут в сжатые сроки разработать новые правила регулирования искусственного интеллекта. Подобный подход можно сравнить с тем, как ядерные кризисы в прошлом стимулировали заключение договоров о контроле над вооружениями. Однако регулировать информационные технологии может быть значительно сложнее из-за их быстрого развития и широкого спектра применения.

— «Цифровой авторитаризм» 

Такой сценарий также отношу к вероятным. Под предлогом повышения безопасности государства могут расширить использование ИИ для массового наблюдения, финансового контроля и ограничения свободы выражения. Основные вычислительные мощности и технологии ИИ в таком случае окажутся под контролем государства и компаний, получивших его одобрение. Этот сценарий может стать результатом резкого перехода от любого из описанных выше вариантов развития событий.

Одним из главных рисков в любом сценарии является разворачивающаяся борьба в сфере ИИ и технологий между США и Китаем. Главная опасность здесь может быть в сочетании гонки двух «сверхдержав» и отсутствия обязательных правил применения ИИ.

В США пока преобладает подход, при котором жесткое государственное регулирование рассматривается как потенциальное препятствие в конкуренции с Китаем. КНР в свою очередь также не намерен останавливаться в этой гонке, он выступает за активный международный обмен технологиями и поддержку моделей с открытым исходным кодом. Но при этом пытается сочетать высокие темпы развития с попытками сохранять технологию безопасной. В результате сотрудничество двух держав остается ограниченным.

Дискуссия о том, как контролировать развитие ИИ, показывает и раскол внутри самой технологической отрасли США. 

Условно позиции руководителей крупнейших компаний можно разделить на две группы: одни выступают за умеренный контроль и координацию темпов развития (к ним можно отнести Амодеи и главу OpenAI Сэма Альтмана), другие — «рыночники» — делают ставку на ответственность компаний и добровольные стандарты. К ним можно отнести Цукерберга и Хуанга, а также главу SpaceX Илона Маска. Они втроем, видимо, убедили Трампа отказаться от идеи создания отраслевого регулятора для ИИ. 

Мотивация и ограничения всех групп очевидны. Anthropic выгодно распределить ответственность за безопасность на отрасль в целом, но невыгодно соглашаться, чтобы ее модели одобрял конкурент, вроде OpenAI, и наоборот. Но кто кроме них сможет проверить модель на «незаконность» или «опасность» и т.д.?

В случае рыночников тоже все ясно. Nvidia зарабатывает на поставках вычислительной инфраструктуры для ИИ, а Meta и SpaceX — инвестируют десятки миллиардов долларов в развитие ИИ и инфраструктуры для него. Для таких компаний замедление технологической гонки означает не только снижение рисков, но и возможное сокращение масштабов будущего рынка.

Ближайшие год-два покажут, возможно ли достичь баланса интересов всех участников бизнес-цепочки, а также движется ли ИИ к «управляемому росту» или продолжится «конкуренция без правил» в сочетании с расширением тотального госконтроля на основе технологий.

Но уже сейчас понятно, что наибольшую опасность ИИ, видимо, может представлять в случае сочетания трендов и инцидентов.