Главы IT-компаний в кулуарах Белого дома раскритиковали CEO Anthropic за ИИ-алармизм

Руководители ведущих технологических компаний на встрече с президентом США Дональдом Трампом в Белом доме публично демонстрировали единство, но вне прицелом камер упрекнули главу Anthropic Дарио Амодеи в том, что он сгущает краски, заявляя об экзистенциальной угрозе человечеству со стороны искусственного интеллекта, пишет The Wall Street Journal. Отсутствие единства может осложнить саморегулирование отрасли, на которое делает ставку Вашингтон.

На встрече в Белом доме 29 сентября руководители OpenAI, Anthropic, Google, Meta, xAI и Nvidia подписали соглашение о принципах безопасности в сфере ИИ и вместе с президентом США Дональдом Трампом выступили перед прессой. На публике они демонстрировали единство, но за закрытыми дверями состоялся гораздо менее благодушный разговор, рассказали собеседники WSJ.

По их словам, после обеда небольшая группа топ-менеджеров продолжила обсуждать принципы безопасности с представителями американской администрации. Там глава Nvidia Дженсен Хуанг и другие главы компаний спросили Амодеи, почему он так резко высказывается о возможностях нейросетей и связанных с ними рисках. Тот ответил, что с обществом важно говорить честно и не преуменьшать опасности, сообщает газета. Ранее он предупреждал о кибератаках с применением ИИ и массовой потере рабочих мест, критикуя Белый дом и конкурентов за недостаточное внимание к безопасности.

Когда Амодеи поднял вопрос рисков за обедом, глава Meta Марк Цукерберг предложил отвечать на них выполнением общих принципов, сообщили собеседники WSJ. Перед прессой он заявил: «Мы хотим, чтобы американцы и наши клиенты были уверены: технология работает так, как мы задумали».

Хуанг и Цукерберг поддерживают мягкий подход Белого дома и выступают против призывов исследователей Anthropic и OpenAI при необходимости замедлять разработку моделей по согласованию с государством. Разошлись и оценки соглашения: по Axios, Трамп назвал его «морально обязывающим» и сравнил с «конституцией», тогда как Амодеи счел документ лишь «началом».

Anthropic, OpenAI и Google выступали за создание саморегулируемой организации по образцу FINRA, надзирающей за брокерами. Но Хуанг, Цукерберг и глава Tesla и SpaceX Илон Маск опасались, что она сосредоточит в руках ИИ-разработчиков чрезмерную власть. После их возражений идею отбросили.

Часть мер сохранили: усиленные внутренние проверки при разработке моделей и внешнее тестирование, сообщает WSJ. Подписанное в Белом доме одностраничное соглашение не исключает и ужесточения государственного контроля: при необходимости Вашингтон может ввести новые законы и правила для ИИ-компаний, уточняет Axios.

Anthropic пытается наладить отношения с Белым домом перед IPO с желаемой оценкой около $2 трлн. Компания еще не оправилась от конфликтов с властями ранее в этом году, пишет WSJ: работу двух ее моделей остановили на две с половиной недели из-за опасений по поводу безопасности, а Пентагон внес Anthropic в черный список после спора о военном применении ИИ.

В проспекте IPO Anthropic предупреждает будущих инвесторов, что его технология может создавать «катастрофические риски для человечества или угрозу его существованию». Глава OpenAI Сэм Альтман заявил, что его компания отложит выход на биржу до тех пор, пока не сможет «уверенно принимать решения по вопросам безопасности».