«Хакерский ИИ»: впечатлившая рынок нейросеть из Китая вышла из-под контроля при тесте

Новейшая модель искусственного интеллекта Kimi K3 от китайского стартапа Moonshot смогла выйти за пределы изолированной тестовой среды британского правительственного Института безопасности ИИ (AI Security Institute), обратил внимание Bloomberg.

Инцидент зафиксировала американская компания по исследованию кибербезопасности Frontier Security. По словам ее основателя и генерального директора Ярона Сингера, публично доступная модель Kimi не имеет необходимых защитных ограничений. «По сути, это делает ее очень хорошей хакерской моделью», — заявил он Bloomberg.

Хотя в отличие от моделей Anthropic, OpenAI и Meta, которые в ходе недавних тестов также смогли самостоятельно получить доступ к интернету, Kimi K3, оказавшись в большой сети, не пыталась атаковать сторонние сайты и системы. Тем не менее, исследователи указывают, что отсутствие средств контроля само по себе представляет угрозу. 

Представитель Moonshot оперативно ситуацию не прокомментировал. Институт безопасности ИИ, из чьей тестовой среды смогла выбраться Kimi K3, также не ответил на запросы.

Материал дополняется