«Потрясения неизбежны»: Амодеи о Mythos, регулировании ИИ и богатстве

Разработка передовой модели Mythos, способной преодолевать существующие системы киберзащиты, только сильнее убедила главу Anthropic Дарио Амодеи в необходимости регулирования ИИ. На фоне тревоги экспертов и инвесторов и в ожидании выхода Anthropic на IPO Амодеи дал интервью Financial Times. Oninvest пересказывает его высказывания.

«Я думаю, нам следует рассматривать регулирование ИИ так же, как регулируются автомобили и самолеты, — говорит Амодеи. — Все понимают, что они обладают огромной экономической ценностью, но их нужно создавать очень тщательно. Если они созданы неправильно, они могут убить».

Anthropic утверждает, что ее передовая модель Mythos выявила тысячи ранее неизвестных уязвимостей во всех существующих операционных системах и веб-браузерах, при этом некоторые из них существовали 27 лет. Компания решила пока не выпускать модель в открытый доступ. Mythos доступна только ограниченному кругу партнеров в рамках Project Glasswing. Цель — заранее выявить и устранить потенциальные угрозы. Амодеи подозревает, что модели с открытым кодом и китайские разработчики смогут воспроизвести возможности Mythos в течение шести–двенадцати месяцев.

Некоторые аналитики говорят, что разработка Mythos дала Anthropic возможности уровня государства, отмечает Financial Times. Возникла бы опасная ситуация, если бы какая-либо компания или страна контролировала эту технологию в одиночку, поэтому Anthropic тесно сотрудничает с другими, отмечает Амодеи. Дальнейшие шаги по укреплению кибербезопасности он видит в создании системы обязательной оценки технологии. Он предполагает, что некая сторонняя организация, такая как поддерживаемый индустрией некоммерческий Frontier Model Forum, могла бы устанавливать стандарты, сопоставимые с автомобильными: «Есть ли у машины тормоза, есть ли подушки безопасности, есть ли ремни безопасности?»

Амодеи настаивает, что ИИ-компании должны признать экономические потрясения, которые вызовет технология. По его словам, индустрии нужно добиться настолько сильного положительного эффекта от ИИ, чтобы перекрыть эти потрясения. Пока этого не произойдет, люди, по мнению Амодеи, будут подвергать сомнению ИИ-технологии. Его принцип заключается в том, что ИИ может «распространяться только со скоростью доверия».

В январе в своем эссе Adolescence of Technology Амодеи предупредил, что ИИ может устранить около 50% всех начальных офисных рабочих мест в течение пяти лет.

Несмотря на разговоры о том, что пузырь ИИ вот-вот лопнет, Амодеи убежден, что увеличение «Большого вычислительного кома», как он его называет, еще далеко от завершения.

«У радуги нет конца. Есть только радуга, — говорит он. — Мы не видим никаких признаков замедления».

Мы живем в новом «позолоченном веке», говорит Амодеи, отсылая к одноименному периоду бурного роста экономики США после гражданской войны в 70-80-х годах XIX века. По его словам, небольшое количество «невероятно удачливых» миллиардеров (включая его самого) смогли накопить огромные состояния и обязаны быть более социально ответственными. Глава Anthropic особенно критичен к тем технологическим миллиардерам, которые раздражаются из-за «несправедливой» критики в прессе, а затем «покупают судью», приобретая собственные медиа. Амодеи отказался назвать конкретные имена, отмечает FT.

«У нас есть обязанность бескорыстно отдавать обществу. И общество не обязано нас за это превозносить, — говорит он. — Пресса могла бы сказать, что я мучаю маленьких щенков, и у меня все равно оставались бы обязательства перед обществом».

Его тон раздражает многих критиков в Кремниевой долине, которые отмечают, что его принципы совпадают с коммерческими интересами Anthropic, пишет FT. Жесткая конкуренция акционерного капитализма также будет диктовать свою неумолимую логику, замечает издание.