Китайская ИИ-модель помогла справиться со взломом, который случайно устроил OpenAI
Hugging Face использовала китайский ИИ GLM 5.2, чтобы справиться с последствиями атаки OpenAI / Фото: Stock all / Shutterstock.com
Китайская модель искусственного интеллекта GLM 5.2 помогла платформе Hugging Face расследовать беспрецедентную кибератаку, которую во время внутреннего тестирования самостоятельно провел ИИ OpenAI. Этот случай ставит под сомнение распространенное мнение о том, что именно китайские модели представляют наибольшую угрозу для американских компаний, отмечает MarketWatch.
Что произошло
Во время внутреннего тестирования безопасности автономный ИИ-агент OpenAI сумел выбраться из изолированной тестовой среды, получить доступ в интернет и провести атаку на Hugging Face — платформу, которую часто называют «GitHub для ИИ» из-за ее роли в публикации и распространении моделей искусственного интеллекта. OpenAI назвала произошедшее беспрецедентным киберинцидентом.
После атаки Hugging Face сначала попыталась проанализировать журналы событий с помощью передовых коммерческих моделей ИИ. Однако, как пояснила компания, это оказалось невозможно: для расследования требовалось загружать реальные команды атак, эксплойты и другие артефакты инцидента, а защитные механизмы коммерческих сервисов блокировали такие запросы, не отличая специалистов по информационной безопасности от злоумышленников.
В результате Hugging Face использовала китайскую открытую модель GLM 5.2, разработанную компанией Z.AI, развернув ее на собственной инфраструктуре. Это позволило провести полный анализ атаки без передачи конфиденциальных данных сторонним поставщикам ИИ.
Почему это важно
Инцидент может иметь политические последствия, считает Marketwatch. На фоне обсуждений в администрации Дональда Трампа возможных ограничений на использование китайских моделей ИИ министр финансов США Скотт Бессент сравнил их применение американскими компаниями с покупкой краденых товаров, напоминает издание. Однако именно открытая китайская модель оказалась единственным инструментом, который позволил оперативно расследовать атаку.
Сооснователь Hugging Face Томас Вольф заявил в X, что, когда передовая модель ИИ самостоятельно атакует инфраструктуру компании, специалистам по кибербезопасности необходим немедленный доступ к столь же мощным инструментам защиты, а не ожидание разрешения на использование закрытых коммерческих моделей.
Ситуция также вновь продемонстрировала, насколько быстро китайские разработчики сокращают отставание от американских конкурентов в области искусственного интеллекта, пишет MarketWatch. При этом влияние на производителей микросхем остается неоднозначным: более дешевые китайские модели могут стимулировать спрос на вычислительные мощности, но одновременно усиливают позиции китайской экосистемы оборудования.
