Счет идет на месяцы: OpenAI и еще более 100 компаний призвали готовиться к ИИ-атакам

OpenAI, Anthropic, Microsoft, Google, Amazon и еще более 100 компаний 27 августа заявили, что на подготовку к массированным кибератакам с применением искусственного интеллекта почти не остается времени. По мере развития моделей такие атаки уже «в ближайшие месяцы станут гораздо более распространенными и сложными», говорится в подписанном ими открытом письме.

«У нас есть лишь небольшое окно, чтобы укрепить киберзащиту, — предупреждают подписанты. — Под угрозой находятся компании и службы, от которых зависит наша повседневная жизнь, — от больниц и водоочистных сооружений до инфраструктуры, обеспечивающей работу интернета».

Прежде злоумышленникам требовалось много времени, чтобы разобраться в устройстве таких систем, но ИИ позволил сильно ускорить процесс. Вместе с тем, cовременные достижения в области ИИ дают защитникам возможность быстрее устранять уязвимости, которые накапливались годами, отмечают авторы письма.

Подписанты призвали к «коллективным действиям». Всем организациям предложено сделать киберзащиту первоочередной задачей, устранить «самые опасные уязвимости» и «ужесточить требования к безопасности всего, что они покупают, создают и внедряют, включая код, написанный ИИ».

Компании в сфере кибербезопасности и их технологические партнеры должны сделать «защиту с помощью ИИ доступной операторам критической инфраструктуры и готовой к внедрению», а также обмениваться данными об угрозах. Правительствам предложено наладить такой обмен на местном, национальном и международном уровнях и финансировать защиту жизненно важных служб. Разработчики передовых ИИ-моделей, в свою очередь, должны предоставить специалистам по кибербезопасности доступ к наиболее мощным моделям во время крупных кибер-инцидентов, а также «значительное финансирование, обучение и практическую поддержку».

При этом подписанты не взяли на себя конкретных обязательств, не установили сроков и не объявили о целевых инвестициях, обращает внимание Axios.

В тот же день лауреат Нобелевской премии Джеффри Хинтон, ранее работавший над ИИ в Google, предупредил в подкасте BBC World Business Report о более широких рисках технологии. «Люди не хотят признать, что мы создаем новый тип существа. Это существо будет умнее нас, и, если мы не будем ему по-настоящему небезразличны, нас ждут серьезные проблемы», — заявил он.

«У нас есть одно будущее, в котором мы поймем, как справляться с рисками ИИ. И другое — в котором мы не сможем сделать это разумно. Это будет очень мрачное будущее», — добавил Хинтон.

О возможностях передовых нейросетей и агентов говорит и июльский взлом Hugging Face — популярной платформы для публикации открытых ИИ-моделей. По данным совместного расследования METR и Redwood Research, атаку провел рой примерно из 700 действовавших сообща агентов OpenAI. Компания подтвердила оценку независимых исследователей и сообщила, что ИИ-агенты также взломали ее собственную инфраструктуру.