«Бегите так быстро, как можете»: глава Nvidia ответил сторонникам замедления ИИ

Глава лидера рынка ИИ-чипов Nvidia Дженсен Хуанг 15 сентября отверг необходимость дополнительно регулировать безопасность искусственного интеллекта, сообщает Bloomberg. «Нам не нужны новые законы — нам не нужны новые правила», — заявил он в беседе с главой Salesforce Марком Бениоффом на конференции Dreamforce (цитата по Bloomberg). 

ИИ для Хуанга — не новая форма «инопланетного разума», как его описал один из сотрудников OpenAI, а созданные людьми «железо» и софт, пишет TechCrunch. А значит, рассуждает глава Nvidia, контролировать ИИ способны люди и существующие законы. «Безопасность — это инженерная задача, а не юридическая, — пояснил он. — Мы ведь разрабатываем программное обеспечение. <…> Это сложная вычислительная система, но в конечном счете это [не более чем] вычислительная система» (цитата по TechCrunch).

Удерживать ИИ-разработчиков от выпуска небезопасных продуктов, по логике Хуанга, будет свободный рынок. «Если вы создаете продукт или сервис и не уверены в его функциональности, возможностях или безопасности, то не выпускайте его. Это совершенно очевидный шаг», — приводит его слова TechCrunch. Компания должна двигаться без спешки, пока не убедится, что выпускает именно то, что нужно рынку, добавил глава Nvidia. «Рыночные силы уже действуют», — подчеркнул бизнесмен.

Хуанг повторил и свой прежний тезис: выбор между скоростью разработки и безопасностью ИИ — ложная дилемма, пишет Bloomberg. «И того, и другого вполне можно добиться одновременно. Так что бегите так быстро, как можете. Но если в какой-то момент вы почувствуете, что компания вышла из-под контроля или продукт не будет безопасным, возьмите паузу и убедитесь, что делаете все правильно», — цитирует его TechCrunch.

Днем ранее, 14 сентября, Хуанг давал интервью подкасту All-In на сцене одноименной конференции в Лос-Анджелесе. Судя по видео в соцсетях, в разгар беседы ему позвонил президент США Дональд Трамп, пишет Axios. Глава Nvidia включил громкую связь, чтобы разговор услышал зал. 

«Роботы не захватят власть, — сказал Трамп Хуангу. — ИИ не захватит остальной мир. Вся эта история — обман». Президент имел в виду волну предупреждений о катастрофических рисках ИИ, поясняет Axios. Глава Nvidia ответил: «Мы позаботимся о том, чтобы в американской ИИ-гонке выиграли все». Прогнозы о том, что искусственный интеллект может привести к концу света, Хуанг назвал «лишенными научной основы» (цитаты по Axios).

Nvidia напрямую заинтересована в продолжении ИИ-бума, отмечает Axios. По данным Silicon Analysts, компания контролирует около 80% рынка ИИ-ускорителей — чипов для дата-центров. TechCrunch предлагает скептически взглянуть на позицию Хуанга: дополнительное регулирование могло бы помешать Nvidia продавать все больше ИИ-систем и программного обеспечения. 

Сам Хуанг усматривает коммерческий интерес в некоторых предупреждениях о киберугрозах со стороны ИИ: по его мнению, они могут помогать бизнесу в сфере информационной безопасности, пишет Axios. «Есть ли лучший способ создать спрос, чем создать проблему?» — рассуждал он на конференции Goldman Sachs в Сан-Франциско. «Кто не хочет, чтобы его продукт вызывал на рынке истерию, а очередь за ним уходила за угол?» — приводит его слова Forbes.

В Anthropic и других крупных ИИ-лабораториях обсуждали согласованное замедление разработки, пишет Bloomberg. Глава Anthropic Дарио Амодеи поддержал снижение темпов развития ИИ в эссе, вышедшем после резонансного ухода сотрудника компании. Тот заявил, что Anthropic и OpenAI «ставят на кон наши жизни»: по его мнению, их технологии могут стать угрозой для человечества. Еще один подход предложил глава Meta Марк Цукерберг: для проверки безопасности моделей лабораториям следует привлекать независимых экспертов и советников, сообщает агентство.