Модели OpenAI взломали вторую компанию: какие будут последствия?

Модели искусственного интеллекта OpenAI оказались причастными к еще одному взлому сторонней компании. Технический директор нью-йоркской Modal Labs Акшат Бубна сообщил Reuters и подтвердил другим СМИ, что один из IT-ресурсов клиента компании был взломан, когда агент OpenAI ранее в этом месяце проник в системы открытой платформы для создания нейросетей Hugging Face. Это уже вторая компания, которую затронули действия агента OpenAI: в начале июля он вышел из под контроля, выбрался за пределы изолированной среды и получил доступ к внешним системам.

Один из клиентов Modal разместил в ее инфраструктуре собственный код и открыл свободный доступ к интерфейсу. Через него любой пользователь интернета мог запускать код в «песочницах» (изолированных средах) клиента — этим и воспользовался агент OpenAI, пояснил Бубна. По его словам, уязвимость находилась именно в коде клиента, а не в самой платформе Modal: ее инфраструктура взломана не была. По словам источника Axios, скомпрометированный ИТ-ресурс связан с CyberGym — проектом, создавшим тест ExploitGym, задания которого было поручено выполнить ИИ-агенту.

Инцидент произошел в чувствительный для OpenAI момент: по данным Axios, компания добивается от правительства США разрешения на публичный выпуск своей самой мощной модели, которая и устроила взлом. На этой неделе Альтман глава OpenAI находится в Вашингтоне. Он планирует встретиться с министром финансов США Скоттом Бессентом, министром торговли страны Говардом Латником и сенаторами, утверждает Politico.

Альтман 28 июля заявил в подкасте Invest Like a Beast, что атака на Hugging Face вынудила OpenAI приостановить обучение моделей. «Возможно, нам придется замедлить развитие искусственного интеллекта, чтобы дать обществу достаточно времени для подготовки к системам с такими новыми возможностями», — сказал он.

Замедлить разработку призывают и сотрудники отрасли. Более 1100 специалистов, в том числе главный научный сотрудник OpenAI Якуб Пахоцкий и сооснователь Anthropic Джаред Каплан, подписали открытое письмо с призывом к правительству США поддержать международную разработку «технических и управленческих инструментов», которые позволят регулировать темпы развития автоматизированных систем ИИ.

Nvidia 27 июля вместе с Microsoft, SpaceX, Palantir и десятками других технологических компаний объявила  о создании альянса, который займется разработкой и распространением инструментов для обеспечения ИИ- и кибербезопасности. Инициатива появилась после кибератаки модели OpenAI на Hugging Face.