«Волк в овечьей шкуре»: как на рынке восприняли призыв главы Anthropic замедлить ИИ

Глава Anthropic Дарио Амодеи предложил замедлить развитие передовых ИИ-моделей, чтобы получить больше времени для снижения связанных с ними рисков. В своем эссе Амодеи также призвал США ужесточить ограничения на экспорт чипов в Китай и пресечь предполагаемое использование китайскими ИИ-лабораториями чужих моделей для обучения собственных. Его поддержали глава OpenAI Сэм Альтман и основатель SpaceX Илон Маск.

Впрочем, некоторые инвесторы не восприняли всерьез предупреждения Anthropic и OpenAI, другие сочли их фактором давления на рынок, отмечает Reuters. По мнению критиков, своими предложениями Амодеи стремится укрепить рыночные позиции Anthropic не меньше, чем повысить безопасность ИИ, констатирует Axios.

— Культовый шортист Майкл Бьюрри, который одним из первых спрогнозировал мировой финансовый кризис и заработал на этом, считает разговоры руководителей ИИ-компаний о замедлении выгодными им самим. По его оценке, конкуренция быстро усиливается, а сдерживание темпов помогает действующим лидерам. «Для IPO нужны шумиха и самореклама; «мы настолько круты, что это может стать опасным» — это шумиха и самореклама», — написал он в X. Бьюрри также назвал призывы замедлить разработку ИИ «прикрытием реального неконтролируемого замедления роста» ИИ-компаний в преддверии их IPO.

— Венчурный инвестор Чамат Палихапития заявил в X: «Дарио [Амодеи в своем эссе] приводит доводы в пользу того, чтобы остановить развитие открытых моделей и сосредоточить огромную технологическую и экономическую власть в руках Anthropic».

— Инвестор Джейсон Калаканис обвинил Anthropic и OpenAI в попытке использовать государственное регулирование против конкурентов, разрабатывающих открытые ИИ-модели — доступные для изучения и доработки. При этом собственные наиболее продвинутые модели Anthropic и OpenAI остаются закрытыми. «Если вы хотите безопасности, вам нужно раскрытие информации, а открытый исходный код — наиболее полная форма такого раскрытия», — написал Калаканис. «Не бегите плакаться правительству и умолять его замедлить развитие открытых моделей», — добавил он.

— Критик современных ИИ-технологий Гэри Маркус считает, что в нынешнем виде ИИ не представляет большой угрозы. Главный повод для беспокойства, по его мнению, — универсальные ИИ-агенты, подключенные к интернету: большинство из них ненадежны и не способны последовательно выполнять инструкции. Проблему он видит в том, что они «слишком глупы», а не «слишком умны». «Замедление пока не требуется. И уж точно не стоит паниковать. Надо просто убрать небезопасный продукт с рынка», — заявил Маркус.

— «Должна ли горстка избранных компаний из Кремниевой долины, занимающих доминирующее положение на ИИ-рынке, определять правила и стандарты безопасности для технологии, определяющей облик целого поколения во всем мире?» — задался вопросом генеральный директор канадского ИИ-стартапа Cohere Эйдан Гомес. «Сегодня эти олигополии требуют изменить правила конкуренции и позволить им диктовать условия всем остальным. Это волк в овечьей шкуре, — иначе говоря, картель», — добавил он (цитата по The New York Times).

— «Если уж начинать регулировать [ИИ-отрасль], заниматься этим должны не люди, с которыми они [топ-менеджеры ведущих американских ИИ-лабораторий] знакомы, и не им самим писать правила», — заметил венчурный инвестор Билл Герли.

— Инвестиционный стратег Saxo Bank Чару Чанана допускает, что призывы замедлить разработку все же могут в краткосрочной перспективе оказать давление на акции ИИ-компаний и производителей чипов, передает Reuters. «Их биржевые оценки предполагают и сильный спрос, и неослабевающие темпы технологического прогресса, — сказала она. — Когда ожидания настолько высоки, даже возможная задержка может спровоцировать фиксацию прибыли».

— Партнер-основатель Yorkville Ives Дэн Айвз в комментарии Yahoo Finance допустил небольшое снижение [на американском фондовом рынке] в начале торгов 14 сентября в Нью-Йорке из-за эссе Амодеи и обсуждений на выходных, но предположил, что за ним последует быстрый отскок. «Инвесторы быстро поймут: несмотря на всю эту мыльную оперу, планы потратить в ближайшие несколько лет $5 трлн на ИИ не меняются», — сказал он.

Администрация Дональда Трампа неоднократно давала понять, что не заинтересована в регулировании развития ИИ, стремясь не отстать от Китая. Советник президента США по науке и технологиям и бывший куратор ИИ в Белом доме Дэвид Сакс ответил на предложения Амодеи и Альтмана о замедлении: «Мой ответ может удивить: действуйте. Но перестаньте делать вид, что вам нужно чье-то разрешение».

Проправительственное китайское издание Global Times усмотрело в эссе Амодеи «приемы времен холодной войны», направленные на сдерживание технологического развития КНР, передает Reuters. «Эта «тихая холодная война в области ИИ» лицемерна и недальновидна», — заявило издание, отметив, что исключение Китая из глобальных инноваций в ИИ существенно увеличит «издержки разработки методом проб и ошибок и риски потери контроля» над технологией в глобальном масштабе.