«Переломный момент»: ИИ впервые был замечен за координацией атаки вируса-вымогателя

Исследователи кибербезопасности компании Sysdig обнаружили, по их словам, первый документально подтвержденный случай, когда большая языковая модель самостоятельно координировала программу-вымогателя. Команда Sysdig Threat Research сообщила 6 июля о выявлении атаки, получившей название Jade Puffer, в ходе которой ИИ-модель не просто помогала злоумышленникам, а автономно выполняла последовательность действий, характерную для вредоносного ПО.

По словам директора по исследованию киберугроз Sysdig Майкла Кларка, Jade Puffer не использовала какие-либо принципиально новые методы взлома. Однако ИИ все организовал: просканировал сервер в поисках ключей доступа к ИИ-сервисам, облачным учетным данным и криптовалютным кошелькам, а затем сгенерировал записку с требованием выкупа.

Исследователи смогли связать атаку с использованием ИИ по характерным признакам. В частности, вредоносный код содержал многочисленные комментарии, объясняющие назначение каждого действия, что считается типичным следом генерации ИИ-модели. Еще одной особенностью Jade Puffer стала способность исправлять ошибки собственные ошибки. Во время атаки ИИ обнаружил дефект в собственном коде, устранил его и продолжил работу менее чем за 31 секунду.

Кларк считает, что главная опасность заключается не в сложности самой атаки, а в снижении требований к квалификации злоумышленников. Стоимость запуска ИИ-агента становится основным ограничением для проведения подобных операций, а при использовании украденных учетных данных расходы могут быть практически нулевыми, отмечает эксперт в отчете Sysdig.

Похожую оценку действиям ИИ-модели дал руководитель исследований Microsoft Defender for Endpoint Джефф Макдональд на своей странице в LinkedIn. По его словам, ИИ способен масштабировать атаки программ-вымогателей до тысяч или даже десятков тысяч одновременных кампаний, поскольку теперь их объем ограничен скорее бюджетом злоумышленников, чем числом операторов. «Это переломный момент для кибербезопасности, к которому ни отрасль, ни мир пока не готовы (…) В ближайшие месяцы это приведет к серьезным негативным последствиям», — добавил Макдональд.

Опасения вокруг использования ИИ в кибератаках усиливаются на фоне появления все более мощных языковых моделей, отмечает Business Insider. OpenAI и Anthropic были вынуждены ограничить доступ к некоторым наиболее продвинутым моделям именно из-за опасений, связанных с их возможностями в сфере кибербезопасности.