Nvidia создала альянс по ИИ-безопасности после случайного взлома, устроенного OpenAI

Nvidia, Microsoft, SpaceX, Palantir и десятки других технологических компаний объявили о создании альянса, который займется разработкой и распространением инструментов для обеспечения ИИ- и кибербезопасности. Инициатива появилась после случайной кибератаки модели OpenAI на открытую платформу для создания нейросетей Hugging Face, в ходе которой стартап был вынужден использовать китайскую ИИ-модель для самообороны.

37 ведущих компаний из сфер ИИ, облачных вычислений, кибербезопасности, корпоративного и открытого ПО объявили о создании объединения по совместной разработке технологий и инструментов для общего пользования, направленных на обеспечение ИИ- и кибербезопасности. В альянс, в том числе, вошли: Nvidia, Microsoft, SpaceX, Palantir, Adobe, CrowdStrike, Dell — и десятки других технологических компаний из США и Европы. Объединение получило название The Open Secure AI Alliance.

«Недавний инцидент с безопасностью [открытой платформы для создания нейросетей] Hugging Face стал наглядным напоминанием: специалистам по киберзащите необходимы открытые передовые агентные системы ИИ для самообороны», — говорится в совместном заявлении The Open Secure AI Alliance, опубликованном в блоге Nvidia.

Nvidia также заявила, что предоставляет альянсу открытые модели, веса, данные и исследования в области инфраструктуры для ИИ-агентов (agent harness), включая новый открытый проект Nvidia Labs Object-Oriented Agent, который доступен на платформе GitHub. Этот фреймворк поможет системам управления более эффективно контролировать поведение ИИ-агентов, упрощая процесс тестирования, отслеживания, проверки и регулирования их действий, добавили в компании.

Альянс был создан после взлома Hugging Face, который случайно провел ИИ-продукт OpenAI. Стартап не смог использовать ведущие американские передовые модели ИИ для защиты своей инфраструктуры, поскольку встроенные механизмы безопасности не смогли отличить атакующую сторону от защищающейся. В результате компания задействовала открытую китайскую модель GLM 5.2, которая не была связана аналогичными ограничениями.

Также инициатива появилась в момент, когда в Вашингтоне усиливаются дискуссии о возможном ограничении китайских моделей ИИ. На прошлой неделе министр финансов США Скотт Бессент пригрозил санкциями китайским компаниям, которые используют дистилляцию — метод извлечения знаний из более совершенных моделей американских разработчиков.

Существует «реальная вероятность» того, что США введут ограничения против китайских моделей: они могут затронуть покупку токенов через API, а также размещение таких моделей американскими облачными провайдерами, приводит CNBC мнение старшего научного сотрудника Совета по международным отношениям Криса Макгуайра. При этом эксперт подчеркнул, что в Вашингтоне речь идет не о противостоянии открытых и закрытых моделей, а о борьбе с предполагаемой кражей интеллектуальной собственности китайскими компаниями.

В то же время представители технологической отрасли предупреждают, что чрезмерные ограничения могут нанести ущерб развитию открытого ИИ. 24 июля Nvidia, Microsoft, Meta, Palantir и более 20 других компаний направили письмо американским властям с призывом отказаться от «преждевременных ограничений» в отношении моделей с открытыми весами, поскольку это, по их мнению, может ослабить конкуренцию и привести к переносу инноваций за пределы США.