Передовые модели OpenAI вышли из-под контроля и устроили «беспрецедентный» взлом

Передовые модели OpenAI вышли из-под контроля во время проверки безопасности: созданный на их основе автономный агент выбрался из изолированной тестовой среды, получил доступ в интернет и взломал Hugging Face — «GitHub для ИИ», где публикуют и скачивают ИИ-разработки. OpenAI назвала произошедшее «беспрецедентным киберинцидентом». Это один из первых публично известных случаев кибератаки, проведенной ИИ без участия человека, указывает Financial Times.

Для испытания OpenAI намеренно ослабила защиту двух моделей и поручила им попытаться провести взлом. При этом они работали в «песочнице» — среде, которая должна была ограничивать их действия и и изолировать от интернета. Однако модели обнаружили ранее неизвестные уязвимости, выбрались из «песочницы» и вышли в сеть. Затем ИИ-агент похитил учетные данные и атаковал Hugging Face, пишет FT со ссылкой на OpenAI.

OpenAI сообщила, что в тестировании участвовали выпущенная в июле модель GPT-5.6 Sol и еще одна, более мощная, которую компания пока готовит к релизу. Компания также предупредила, что по мере распространения нейросетей со все более развитыми возможностями для кибератак подобные инциденты будут происходить чаще.

Hugging Face заявила, что после взлома тесно взаимодействовала с OpenAI. «Мы твердо убеждены, что с их стороны не было злого умысла. Просто поразительно, что что ИИ сделал все это самостоятельно!» — писал в X глава Hugging Face Клеман Деланг.

Глава Luta Security Кэти Муссурис назвала инцидент предвестником новых кибератак. Нынешние модели она сравнила с «самыми умными в мире осьминогами — мастерами побега: у них бесконечное число щупалец, и они способны протиснуться куда угодно», передает Reuters.

Инженер компании в сфере кибербезопасности Tolmo Мэтт Суиш отметил, что технологии для подобных атак уже доступны далеко за пределами передовых лабораторий: его команда получила похожие результаты и без новейших моделей.