Как замедлить развитие ИИ с умом

Замедление темпов строительства дата-центров повысит цену за использование ИИ, что повлияет на решения о замене сотрудников. Фото: Anna Khromova/Unsplash.com
Рагурам Раджан, бывший управляющий Резервным банком Индии, профессор финансов в Школе бизнеса им. Бута при Чикагском университете, в материале для Project Syndicate объясняет, как разобраться со страхами и рисками, связанными с замедлением ИИ, и почему модели умеют решить сложнейшие математические задачи, но не всегда в состоянии совладать с бытовыми запросами.
Чем больше мощностей, тем меньше выхлоп
Мой знакомый профессор математики, недавно решил взять годичный отпуск, чтобы заняться вопросами безопасности искусственного интеллекта. Учитывая, что компания OpenAI опубликовала 722 материала, претендующих на решение 377 ранее нерешенных математических задач, и принимая во внимание, что ИИ-модели только улучшаются, он стал тревожиться за будущее собственной профессии. Если даже такого блестящего математика можно с легкостью оставить без работы, почему мы все не встревожены?
Отчасти это объясняется тем, что, хотя ИИ способен решить одно из уравнений Навье–Стокса, мой банк пока не создал достаточно надежного чат-бота, способного решить проблему с переводом средств так, чтобы мне не приходилось в ярости требовать беседы с живым сотрудником. Лаборатории ИИ используют методы рекурсивного самосовершенствования, чтобы наделить свои пока еще не представленные модели еще более невероятными научными возможностями, а первопроходцы в некоторых отраслях уже используют ботов для ведения переговоров о контрактах и сверки счетов с поставками. Но внедрение ИИ в традиционном бизнесе в целом продвигается медленно, а возможности, которые он мог бы использовать, по-прежнему скромны.
Почему же тогда столько ИИ-фирм тратят столько вычислительных мощностей на разработку все более сложных моделей, если их возможностями смогут воспользоваться в полной мере лишь немногие? Речь идет не просто о чувстве азарта при создании новой, более быстрой формы интеллекта. Считается, что первая лаборатория, которая создаст полностью самосовершенствующуюся модель, сможет с ее помощью экспоненциально улучшать потенциал и опередить конкурентов навсегда.
Но маловероятно, что конкуренты не станут догонять. Лидер может получить преимущество на месяц или на два (пусть даже с искомым экспоненциальным ростом потенциала), но быстрые преследователи вполне могут найти такие методы, которые позволят им прыгнуть дальше. Именно это сейчас происходит в гонке возможностей ИИ: место лидера среди моделей регулярно меняется. Представляется невероятным, чтобы один победитель доминировал вечно (особенно когда компании могут переманивать друг у друга сотрудников), если только этот победитель не парализует или не уничтожит конкурентов в буквальном смысле. Надо надеяться, что ни у кого нет
таких намерений.
Возможен и другой мотив: никто из мессианских лидеров топовых ИИ-лабораторий просто не готов доверить власть, сопутствующую экстраординарным возможностям ИИ, другому. Каждого из них мотивирует не только желание победить, но и ощущение, будто только он способен хорошо распорядиться этой властью.
Ещё одна причина – страх, что Китай догонит и перегонит. Китайские ИИ-модели
стабильно отстают от ведущих американских моделей всего на пару-тройку месяцев. Как и в случае с гонкой возможностей внутри США, маловероятно, что китайцы вдруг начнут отставать сильнее, если только Америка не организует более эффективную кампанию блокировки доступа Китая к наиболее передовым чипам – как в самом Китае, так и во всем мире.
Но какой бы ни была причина, огромные вложения вычислительных ресурсов в обучение моделей создают давление на ИИ-лаборатории. От них требуют показывать больше отдачи – и чем раньше, тем лучше. Именно поэтому компания Anthropic создала совместное предприятие – Ode – для содействия использованию ИИ в нетехнологических компаниях с помощью делегируемых инженеров Anthropic. Это значит, что вскоре у некоторых банков могут появиться гораздо более совершенные чат-боты, и всем остальным банкам придется последовать их примеру. Сколько времени пройдет, прежде чем рабочие места в службах клиентской поддержки присоединятся к рабочим местам преподавателей математики?
Социальная бойня или остановка в развитии
Есть множество способов внедрения ИИ. Можно просто заменять им рабочие места, а можно изменить труд и обучение навыкам так, чтобы возможности существующих сотрудников невероятно расширились. Первый вариант принесет доходы быстрее, но результатом станет социальная бойня; второй – потребует больше времени и продуманности, но зато сохранит рабочие места и стабильность.
Бизнес, на который нацелены проекты расширения использования ИИ, прекрасно позиционирован для внедрения ИИ методами, ориентированными на сотрудников. Но этим компаниям надо брать на себя больше ответственности за будущее сотрудников, даже когда власти предоставляют новые стимулы, чтобы сопротивляться желанию краткосрочно повысить прибыли с помощью увольнений.
Реализуемых идей много, включая налоги на использование корпоративных токенов и налоговые льготы за обучение сотрудников, но лишь в немногих странах их непосредственно реализовали. Вывод кажется очевидным: общество не готово к масштабному внедрению ИИ.
Впрочем, сейчас мы видим попытку замедлить быстрый рост вычислительных мощностей. Многие политические лидеры в США требуют поставить на паузу выдачу разрешений на новые дата-центры, ссылаясь на недовольство местных жителей и привлекая внимание к общим последствиям неконтролируемого внедрения ИИ. Потенциальное сокращение вычислительных мощностей, доступных для монетизации ИИ в среднесрочной перспективе, вынудит инвесторов ограничить выделение дорогостоящих ресурсов на разработку моделей.
Кроме того, замедление темпов строительства повысит цену за использование ИИ, что повлияет на решения о замене сотрудников. Благодаря этому предложение чипов и компьютерной памяти догонит спрос, что позволит избежать неуклонного роста затрат в будущем. И это позволит сократить отставание регуляторов ИИ так, чтобы не только основатели ИИ-лабораторий определяли, сколько экзистенциальных рисков (или рисков для финансовой системы) обязан вытерпеть мир. Целью паузы должна быть не остановка разработок или использования ИИ, а обеспечение времени для более продуманного внедрения этой технологии.
Что касается гонки с Китаем, то она остается управляемой. Лаборатории США не остановят полностью разработки, а если судить по тому, что мы уже видели, риск, что кто-то сможет получить вечное преимущество, мал. Кроме того, китайцам самим не безразличны риски ИИ, и они могут увидеть свои резоны в замедлении собственных разработок, подглядев за Америкой. Коллективное ИИ-замедление
может даже подтолкнуть к обсуждению давно назревшего между Китаем и США вопроса, как использовать ИИ на благо человечества, и устранить риск, что вольно или невольно мы можем стать его рабами.
Copyright: Project Syndicate, 2026.







