«Джинн вырвался из бутылки»: замедление ИИ не устранит риски, уверен CEO CrowdStrike
Замедление разработки ИИ не отменит потребности в защите от уже доступных моделей
Противодействовать автономным ИИ-агентам способны лишь ИИ-системы сопоставимого или более высокого уровня, считает глава CrowdStrike Джордж Курц / Фото: X/CrowdStrike
Глава разработчика софта для защиты данных CrowdStrike Джордж Курц заявил телеканалу CNBC, что снижение темпов совершенствования нейросетей не устранит риски: потенциально опасные ИИ-модели уже доступны широкому кругу пользователей. «Джинн вырвался из бутылки», — констатировал он.
В эфире телеканала Курц отвечал на призыв главы Anthropic Дарио Амодеи замедлить разработку ИИ. По словам CEO CrowdStrike, поставщикам средств киберзащиты нужно обеспечить безопасность уже выпущенных моделей, пока их разработчики решают, насколько быстро им стоит совершенствовать свои системы.
Амодеи опубликовал свое предупреждение в прошлые выходные. В понедельник, 14 сентября, акции CrowdStrike подскочили почти на 14% и показали лучший результат среди бумаг индекса S&P 500: инвесторы сделали ставку на увеличение спроса на средства киберзащиты, поясняет CNBC.
Постоянный контроль
Агенты нейросетей могут отклоняться от заданной модели поведения и обходить защиту. Поэтому безопасность нельзя обеспечить только при обучении модели — контролировать нужно конкретные действия агента во время работы, считает глава CrowdStrike.
Для противодействия автономным ИИ-агентам, по его словам, нужны ИИ-системы сопоставимого или более высокого уровня. При этом американское преимущество перед Китаем невелико, а попытки государства регулировать ИИ-отрасль могут «задушить инновации», предупредил он.
Что говорят на рынке
Скептически к призывам замедлить ИИ отнесся и крупный владелец дата-центров из Австралии Беван Слэттери, пишет The Australian. «Мы не вернем джинна в бутылку», — заявил он 14 сентября на конференции инвесторов. «Anthropic, Илон [Маск] и [глава OpenAI] Сэм Альтман — все заявили, что нам стоит немного сбавить темп. Но это продлится лишь до выхода [следующих версий китайских передовых нейросетей] Kimi K4, Kimi K3.5 или чего-то подобного. Так что, думаю, нас ждет постоянная «гонка вооружений» в этом направлении», — предположил бизнесмен.
Кто заработает на защите
Призыв главы Anthropic притормозить разработки в сфере ИИ спровоцировал распродажу акций поставщиков оборудования для дата-центров, тогда как бумаги разработчиков средств киберзащиты резко подорожали. На торгах 14 сентября акции CrowdStrike прибавили 14%, Palo Alto Networks — 13%, а Zscaler и SailPoint — по 16%. С начала года бумаги первых двух компаний удвоились в цене, отмечает CNBC.
Аналитик Evercore ISI Кирк Матерн считает, что при любой скорости внедрения ИИ-агентов в компаниях «безопасность этих агентов все равно нужно будет обеспечивать, ими нужно будет управлять, а за их действиями — наблюдать». По его словам, эта необходимость поддержит спрос на средства киберзащиты даже при замедлении обучения новых моделей, пишет MarketWatch.
Среди компаний сектора Матерн выделил Palo Alto Networks и CrowdStrike: они «по-прежнему имеют наилучшие шансы» выиграть от увеличения расходов на кибербезопасность. Их преимущество аналитик объяснил способностью объединять отслеживание угроз и реагирование на них.
Облачные гиганты Microsoft, Amazon и Google также «могли бы стать сильными претендентами на лидерство» в обеспечении безопасности ИИ, написал клиентам управляющий директор D.A. Davidson Гил Лурия. По его мнению, этому способствуют их большие клиентские базы, сообщает MarketWatch.
