«Национализируйте нас»: глава Palantir о призывах ИИ-лидеров к регулированию

Гендиректор ИИ-разработчика и подрядчика Пентагона Palantir Алекс Карп считает, что за призывами к регулированию ИИ, которые озвучили главы Anthropic и OpenAI, стоит не только вопрос безопасности. По его мнению, ведущие ИИ-лаборатории могут искать защиты у государства, чтобы уйти от ответственности за риски, связанные с их продуктами. Карп расценил это как стремление к национализации.

Призывы ИИ-лидеров к регулированию могут говорить о желании переложить на государство ответственность и защитить себя от будущих исков о присвоении чужой интеллектуальной собственности, следует из интервью главы Palantir Алекса Карпа CNBC.

«Это преподносится как движение за регулирование или против регулирования. Но на самом деле суть вовсе не в этом, — заявил он в эфире телеканала. — Насколько я понимаю, они считают, что эти компании необходимо национализировать, потому что в противном случае каждый мой клиент подаст на них в суд». 

Карп пояснил: некоторые клиенты рассказывали ему, что принадлежащие им бизнес-идеи оказываются в данных для обучения чат-ботов и таким образом становятся доступными более широкому кругу пользователей. «Они обнаруживают, что конкурент по соседству получил все результаты их работы», — сказал глава Palantir.

«Такая модель потребует очень серьезной защиты от юридической ответственности, а предоставить ее может только одна структура — правительство США, — объяснил он. — Единственный способ справиться с такой ответственностью — прийти к государству и сказать: «Пожалуйста, национализируйте нас».

Карп и раньше резко критиковал ведущие ИИ-лаборатории из-за вопросов защиты данных, напоминает Business Insider. В июне Palantir опубликовал манифест из девяти пунктов, призвав компании хранить свои данные внутри собственной инфраструктуры, а не передавать их сторонним организациям. 

В эфире CNBC Карп согласился, что нужно найти способ установить разумные правила регулирования ИИ и обеспечить их соблюдение. Но полностью решить проблему таким образом невозможно, считает он. 

«Первая линия защиты состоит в том, что вы сами отвечаете за свои действия, — заявил Карп, отвечая на вопрос CNBC о растущих опасениях, что ИИ представляет угрозу для человечества. — Первый шаг — сказать: хорошо, вы раскрыли эту информацию, а что вы теперь делаете по этому поводу?» По его мнению, если разработчики искусственного интеллекта проявляют беспечность, то должны нести гражданскую, а в некоторых случаях и уголовную ответственность.

Комментарии Карпа прозвучали на фоне ожесточенных споров с участием руководителей крупнейших технологических компаний и политиков о том, как следует регулировать передовые модели ИИ. Дискуссия усилилась после предупреждений исследователей о потенциально катастрофических рисках этой технологии для человечества. В минувшие выходные гендиректор Anthropic Дарио Амодеи призвал замедлить разработку наиболее передовых систем ИИ. Его поддержали главы конкурирующих игроков — Сэм Альтман из OpenAI и Илон Маск из SpaceX, включающей xAI.  

Президент США Дональд Трамп, напротив, отверг эти опасения, назвав риски ИИ «обманом». На его сторону встали и некоторые руководители технологических компаний, включая гендиректора Nvidia Дженсена Хуанга и главу Meta Platforms Марка Цукерберга. Последний написал в соцсети X, что каждая ИИ-лаборатория должна сама выбирать темп разработки, достаточный для безопасного обучения моделей. 

Глава Microsoft Сатья Наделла подчеркнул, что люди должны сохранять контроль над ИИ. Его компания в понедельник опубликовала новый кодекс принципов, которыми будет руководствоваться при обучении и эксплуатации своих ИИ-моделей. В документе неоднократно отмечается, что цель Microsoft в области ИИ — способствовать процветанию человечества.

В четверг к дискуссии присоединился онлайн-ретейлер и владелец облачного хранилища Amazon. «Мы не считаем, что приходится выбирать между прогрессом и безопасностью, — заявил Bloomberg представитель компании Том Парнелл. — Модели следует выпускать тогда, когда они готовы и безопасны для использования, а для этого необходимы тщательное тестирование и надежные защитные механизмы. Если отрасль в целом не будет действовать таким образом, возникнут риски. Мы считаем, что вместе с государством сможем выработать необходимые меры защиты».

Опасения вокруг ИИ также дали новый импульс законодательным инициативам в Вашингтоне и усилили призывы установить более жесткий надзор за отраслью. Сенатор-демократ от Коннектикута Ричард Блументаль, внесший законопроект о безопасности ИИ, заявил CNBC на этой неделе, что США находятся «на грани полной потери контроля». Он призвал ввести ту или иную форму «объективной проверки» моделей ИИ до их релиза.

Законодатели также добиваются внедрения так называемого kill switch — механизма аварийного отключения, который обяжет ИИ-лаборатории предусмотреть техническую возможность остановить систему, если она выйдет из-под контроля. Соответствующий законопроект уже внесен в Палату представителей. Аналогичные предложения столкнулись с сопротивлением в Сенате.