Взлом вместо поиска: ИИ-агенты OpenAI атаковали еще три сайта — исследование

ИИ-агенты OpenAI в этом году пытались взломать сайты правительственных сервисов и университетов без соответствующей команды — просто выполняя рядовые задачи по сбору данных в интернете. Попытки таких взломов в мае и июне зафиксировала некоммерческая исследовательская лаборатория ИИ Transluce. Также эти данные подтвердили сведения, раскрытые накануне властями Австралии, пишет The Wall Street Journal (WSJ).

В отличие от предыдущих взломов, эти попытки ИИ атаковать сторонние сайты не были связаны с тестами по кибербезопасности, в ходе которых моделям прямо поручали ломать системы, указывает WSJ. По всей видимости, речь шла просто о внутреннем обучении моделей и тестах на их способность находить в интернете открытую информацию. В частности, агенты искали статистику по рынку труда Таиланда, дерматологические сведения из Австралии, а также данные об импорте нефти в Южную Корею, выяснили в Transluce.

В итоге среди целей ИИ от OpenAI, по данным исследователей, оказались Австралийский институт здравоохранения и социального обеспечения (Australian Institute of Health and Welfare), Университет Нью-Мексико и дата-проект Data USA, управляемый компаниями Deloitte, Datawheel и Массачусетским технологическим институтом. Судя по всему, агенты, не сумев получить нужные данные обычным способом, переходили к техникам взлома, предположили в Transluce. Восстановить запросы агентов исследователям удалось благодаря тому, что боты пользовались онлайн-инструментом, работающим как веб-браузер. По их предположению, агенты обращались к нему, чтобы обойти ограничения на автоматический доступ к сайтам.

Доказательств того, что в результате этих взломов агентам OpenAI удалось скачать непубличную информацию, — нет, подчеркивает газета.

ИИ-компания уже проводит всесторонний анализ того, что она называет несогласованной деятельностью агентов, отреагировал на отчет Transluce представитель OpenAI. Инциденты, описанные в этом исследовании, пересекаются «со случаями, которые уже находятся на разных стадиях расследования в рамках текущего анализа», добавил он (цитата по WSJ).

ИИ-лаборатория также связалась с учреждениями, которые были подвержены взломам. Более широкий анализ, включая менее серьезные инциденты, такие как «рассылка спама агентами на веб-сайты», займет несколько месяцев, заключил представитель OpenAI.

Ранее на этой неделе стало известно, что агент OpenAI впервые взломал правительственный сайт — это был сервис государственной службы здравоохранения Австралии. Инцидент произошел еще в июне. По инфомарции премьер-министра страны Энтони Албанезе, ИИ тогда также получил несанкционированный доступ к порталу медицинской статистики во время исследования госрасходов на здравоохранение. Эти данные подтвердили в OpenAI.