Ни церковь, ни государство: кому под силу справиться с регулированием ИИ

Папа Римский Лев XIV в своем первом послании католикам 25 мая выступил за более жесткое регулирование искусственного интеллекта. Кто должен отвечать за это регулирование и как сформировать правила для ИИ, рассуждает в материале для Project Syndicate сооснователь компании Novata и бывший финансовый директор Фонда Билла и Мелинды Гейтс Алекс Фридман.   

Папа Лев XIV высказался по поводу самого актуального вопроса нашего времени: появления искусственного интеллекта и осознания того, что технологические возможности человечества развиваются быстрее, чем институты, призванные их регулировать. В своей первой энциклике Magnifica Humanitas он предупреждает, что ИИ без ограничительных мер рискует поработить человечество, а при наличии мер безопасности он же может обеспечить его процветание. Однако, несмотря на всю моральную силу слов Льва, вряд ли католическая церковь сможет определять глобальную повестку дня в сфере технологий.

Не выглядит убедительным и инструмент государственного регулирования. ИИ является воплощением транснациональной проблемы, требующей создания многосторонней системы регулирования. Но это маловероятно в условиях, когда США отходят от глобального лидерства и конкурируют с Китаем за лидерство в передовых технологиях, Индия стремится к стратегической автономии, а большая часть развивающегося мира сосредоточена на росте, а не на ограничениях. Политические условия для «Бреттон-Вудса для ИИ» попросту отсутствуют.

Остается еще один мощный рычаг, который можно задействовать, и он не зависит от сотрудничества соперников или возможностей испытывающих трудности правительств. Это рычаг капитала и институты, которые им управляют в глобальном масштабе. Они могут оказаться важнейшими и при этом наименее изученными акторами управления в нашу эпоху.

Суверенные фонды, государственные пенсионные системы и крупные эндаументы в совокупности управляют более чем $75 трлн, или около 70% мирового ВВП. Они обязаны стремиться к долгосрочной доходности, что требует стабильной экономической системы, в которой эти доходы создаются.

Для отдельных технологических компаний повышение риска может быть оправданным, если это дает им конкурентное преимущество. Для государств ускорение технологического развития любой ценой может быть рациональным, если оно меняет баланс сил (например, Манхэттенский проект в США). Но для инвестиционных институтов, «владеющих» значительной долей мировой экономики, катастрофический провал где угодно означает потери везде. И это прямая угроза их мандату.

Если государства не могут эффективно координироваться, а компании не способны к саморегулированию под давлением конкуренции, необходим глобальный договор, в рамках которого критическая масса крупных владельцев капитала рассматривает экзистенциальные риски как обязательную категорию инвестиционного управления. Соответственно, доступ к их капиталу будет зависеть от соблюдения установленных стандартов надзора в сфере ИИ. Эти требования будут распространяться не только на их портфельные инвестиции, но и на управляющих активами, услугами которых они пользуются и через которых размещают свой капитал.

У этой идеи есть исторические прецеденты. Принципы Салливана, сформулированные преподобным Леоном Салливаном в 1977 году и поддержанные крупнейшими институциональными инвесторами, использовали распределение капитала для того, чтобы повлиять на стандарты в сфере труда и гражданских прав в американских компаниях, работавших в ЮАР в эпоху апартеида. В 1987 году Салливан отказался от этих принципов и призвал к полному бойкоту и отказу от инвестиций в такие компании, а затем работал с генсеком ООН Кофи Аннаном над расширенными «Глобальными принципами Салливана», чтобы продвигать идеи корпоративной социальной ответственности по всему миру. Carbon Disclosure Project, ставший сегодня стандартом отчетности для тысяч компаний, также возник из инициативы инвесторов, стремившихся получить сопоставимые климатические данные. В обоих случаях достаточное число инвесторов смогло изменить рыночные условия.

Создание капитального соглашения могло бы начаться с группы суверенных и пенсионных фондов и эндаументов. Хотя они различаются политически, их объединяют долгосрочные обязательства, системная подверженность рискам и модели управления, в которых уже начали учитываться факторы, выходящие за рамки простой максимизации прибыли.

На практике это соглашение будет сосредоточено на стандартизированном раскрытии информации, сравнительном анализе и контроле за соблюдением правил. Участники согласовали бы набор ключевых метрик (например, независимые аудиты безопасности и человеческий контроль решений ИИ в критически важных сферах) и ввели бы требования к отчетности для всех управляющих активами. Затем данные агрегировались бы по всему портфелю и передавались независимой некоммерческой организации.

Она могла бы анонимизировать и агрегировать их, публикуя бенчмарки, позволяющие компаниям оценивать свои риски относительно других. Участники раскрывали бы публично результаты собственного сравнительного анализа и то, как менялся уровень их рисков со временем. При превышении пороговых значений требовалась бы независимая проверка. Компании в высокорисковых секторах должны были бы проходить аудит безопасности и подтверждать соблюдение протоколов управления рисками как условие доступа к капиталу.

У такой инфраструктуры данных также существует исторический прецедент. В 1971 году американские страховые компании создали некоммерческую организацию Insurance Services Office (ISO), объединив региональные и национальные бюро оценки рисков в сфере страхования имущества и ответственности. Так появился нейтральный посредник для анонимизированных данных о убытках, который позже трансформировался в коммерческую компанию Verisk Analytics.

Логика ISO заключалась в том, что ни один страховщик не обладает достаточными данными для точной оценки сложных взаимосвязанных рисков, но отрасль в целом — обладает. ISO позволила участникам сравнивать свой собственный уровень рисков с отраслевыми стандартами и выявлять системные проблемы, которые невозможно было обнаружить, опираясь только на данные отдельного участника рынка. Управление осуществлялось через нейтральную некоммерческую структуру, общие стандарты и данные для сравнения. Эту модель капитальное соглашение могло бы воспроизвести для технологических экзистенциальных рисков.

Эта концепция неизбежно будет сравниваться с ESG-инвестированием, которому следует отдать должное за признание внешних эффектов инвестиций. Однако оно охватывало слишком широкий спектр целей и страдало от недостаточной стандартизации, избыточных метрик и восприятия как идеологически мотивированного подхода.

Но предлагаемое соглашение — не ценностная инициатива. Она направлена на управление конкретной, измеримой категорией финансового риска, угрожающей долгосрочной стоимости всех активов. Организация, отказывающаяся оценивать свою уязвимость перед технологиями, которые с наибольшей вероятностью могут подорвать ее основные цели, не уклоняется от идеологии — она уклоняется от выполнения своих обязанностей.

В отличие от неудачных климатических инвесторских коалиций, таких как Net Zero Asset Owner Alliance и Glasgow Financial Alliance for Net Zero, где обязательства, по-видимому, принимались в ущерб финансовой доходности, логика капитального соглашения основана на управлении рисками. Более того, здесь нет антимонопольных рисков: его структура предусматривает стандартизированное раскрытие информации и сравнительный анализ с помощью нейтральной некоммерческой организации, а не согласованные инвестиционные решения конкурентов. Это аналог модели ISO, а не картеля.

ИИ может стать как величайшей возможностью, так и величайшим риском человечества. Там, где государства не способны к согласованным действиям, единственными структурами, способными вводить ограничения в глобальном масштабе, становятся крупные диверсифицированные владельцы капитала. Именно на них ложится задача сделать то, чего не могут сделать ни религия, ни государство.

Copyright: Project Syndicate, 2026.

www.project-syndicate.org