ИИ от Google присоединился к «клубу хакеров»: Gemini взломала системы трех компаний

ИИ-модель от Google — Gemini — в ходе тестов возможностей по кибербезопасности получила доступ в интернет и взломала системы трех других компании. Инцидент подтвердили в Google. Подобный случай стал первым для искусственного интеллекта компании после того, как об аналогичных происшествиях сообщали другие ИИ-разработчики. Таким образом, Gemini вслед за ИИ-агентами Anthropic, OpenAI и Meta вступила в «клуб хакеров», замечает The Wall Street Journal. 

Инцидент, по информации Google, произошел еще в мае. Тесты ИИ-модели компания проводила совместно с партнером по безопасности Irregular — эта же фирма ранее фиксировала аналогичные нарушения в работе ИИ-моделей и агентов Anthropic, OpenAI и Meta. 

В одном из случаев Gemini, по данным компании, подбирала пароли, пока не получила доступ к защищенной системе. В двух других случаях — обнаружила учетные данные сотрудников в публичном репозитории (хранилище, где разработчики совместно пишут, тестируют и хранят исходные версии алгоритмов и программного обеспечения), что позволило ей затем получить доступ к защищенным системам. В каждом случае модель прекращала вторжение после того, как устанавливала, что получила доступ к системам настоящей компании, а не смоделированной, сообщили в Google.

О взломах разработчиков ИИ Irregular уведомила еще в конце июля, уточнили компании, — после того как выяснилось, что агенты OpenAI взломали платформу Hugging Face. Однако Google до сих пор не раскрывал информацию о взломах, — впервые об инцидентах компания рассказала The Wall Street Journal в ответ на соответствующие вопросы, замечает газета. Вреда компаниям в результате взлома Gemini не нанесла, подчеркнули в Google.

Материал дополняется