«Все равно что раздать баллистические ракеты»: Даймон — об опасности ИИ-модели Mythos

Гендиректор крупнейшего по капитализации банка США JPMorgan Джейми Даймон поделился тревогой по поводу последствий широкого доступа к моделям Anthropic класса Mythos, пишет Business Insider. Речь идет о мощной передовой ИИ-модели от Anthropic — Mythos 5, способной находить уязвимости в операционных системах. В открытом доступе она никогда не находилась.

Выступая в четверг, 16 июля, на саммите по обороне и инновациям в Пенсильвании, Даймон заявил, что Mythos представляет собой «реальную проблему», которую правительство США «на данный момент держит под контролем».

Он подчеркнул, что государственное регулирование необходимо для контроля над моделью при ее развертывании, добавив, что предоставляя широкий доступ к такой ИИ-модели, «в случае с Mythos вы даете баллистические ракеты в руки частным лицам».

В Anthropic на запросы Business Insider о комментариях по этому поводу не ответили.

Anthropic анонсировал ИИ-модель Mythos в апреле этого года в рамках ограниченной исследовательской версии (Project Glasswing). По данным компании, Mythos настолько мощна, что в случае злоупотреблений может преодолевать существующие системы киберзащиты в основных операционных системах и веб-браузерах. Критики, как и сам Anthropic, предупреждали, что модель несет серьезные риски для кибербезопасности в случае предоставления доступа к ней широкой общественности. В результате доступ к ней был ограничен и предоставлен лишь отдельным корпоративным клиентам. 

В июне Anthropic представил широкой публике Fable 5 — модель класса Mythos, в которую были интегрированы защитные механизмы («guardrails»), блокирующие запросы по таким чувствительным темам, как кибербезопасность, дистилляционные атаки (кибершпионаж, при котором злоумышленники отправляют запросы к чужой ИИ-модели высшего уровня и используют полученные ответы для обучения и создания собственной, более дешевой копии), а также блокирует запросы на темы биологии и химии. 

Однако уже через неделю после релиза правительство США потребовало заблокировать доступ и к Fable 5, установив, что защитные барьеры этой модели можно обойти. Министерство торговли США также выпустило «директиву по экспортному контролю», в соответствии с которой доступ к Fable 5 и Mythos 5 должен быть запрещен «для всех иностранных граждан, как внутри, так и за пределами США, включая иностранных сотрудников Anthropic». В ответ Anthropic закрыл доступ к ИИ-модели Fable 5 для всех пользователей. Но 30 июня лаборатория ИИ объявила о возобновлении доступа к этой модели, а Минторг США снял с нее экспортный контроль. Глава ведомства Говард Лютник тогда заявил, что Anthropic  согласился «активно выявлять и устранять риски безопасности, связанные с ИИ-моделями», а также сотрудничать с правительством в разработке протоколов для будущих релизов и сообщать о любой «злонамеренной деятельности», обнаруженной среди ее нейросетей.

Anthropic готовится к IPO, которое, по данным Bloomberg, может состояться уже в октябре. В случае выхода на биржу компания опередит OpenAI, теперь ориентирующуюся на листинг в 2027 году, а также китайскую DeepSeek, которая также готовится к IPO в Шанхае. Рост выручки Anthropic обеспечивают его ИИ-модели, однако компания по-прежнему сталкивается с регуляторными рисками и напряженными отношениями с администрацией Дональда Трампа, отмечает агентство. В мае ИИ-компания сообщила, что ее выручка в пересчете текущих темпов на год (revenue run rate) составила $47 млрд против $10 млрд фактической годовой выручки в 2025 году. По итогам второго квартала Anthropic рассчитывает на выручку в $10,9 млрд, писал Bloomberg.