Claude «руководит» более чем четвертью ИИ-исследований в Anthropic

ИИ-разработчик Anthropic заявил, что внутри самой компании его ИИ-модель Claude «руководит» 26% исследовательской и инженерной работы по созданию следующего поколения искусственного интеллекта. Еще в марте этот показатель оценивался менее чем в 1%, указали в компании. Новые данные Anthropic представил как часть регулярной отчетности, которую он планирует публиковать для демонстрации темпов процесса ИИ-разработки. Сообщение об этом появилось в блоге компании.

Таким образом, чат-бот Claude может выполнить большую часть задачи, получив от сотрудника общую подсказку, в то время как человеку остается только контролировать процесс, рассказали компании. Также в Anthropic раскрыли, что инженеры использовали ИИ более чем в 90% исследовательских работ, проводимых в лаборатории. При этом ни в одной из оцениваемых задач Claude не работал полностью автономно, подчеркнули в компании.

Для оценки вклада ИИ в корпоративные задачи Anthropic использует специально разработанную независимой некоммерческой организацией Epoch AI (отслеживает развитие технологий) шкалу. На ее нулевом уровне (AL0) фиксируется полное отсутствие участия ИИ в работе, в то время как на максимальном, пятом (AL5), уровне «ИИ работает полностью автономно, без участия человека». Сейчас в компании по большей части фиксируют участие ИИ в работе на среднем уровне AL3 — то есть, ИИ «сотрудничает» с человеком и может выполнять большие объемы работы под непосредственным руководством.

Раскрытые Anthropic данные могут помочь определить, насколько близка ИИ-отрасль к «рекурсивному самосовершенствованию», которое в ИИ-компании описывают как «модель, способную полностью автономно создавать свою преемницу», пишет Business Insider. Публикация этих сведений происходит на фоне растущей обеспокоенности тем, что ИИ может достичь точки, когда сможет развивать сам себя с минимальным участием людей. Исследователи предупреждают, что по мере роста автономности ИИ-агентов их поведение может расходиться с намерениями создателей и становиться труднее для контроля и мониторинга.

На этом фоне на выходных глава Anthropic Дарио Амодеи предупредил, что с учетом ускоряющихся темпов развития ИИ — уже через 6–12 месяцев — рой агентов, вроде тех, что атаковали стартап Hugging Face, «может оказаться способен захватить весь интернет», потенциально нанеся ущерб в сотни миллиардов долларов. В связи с этим Амодеи призвал замедлить темпы развития ИИ. Его поддержали глава OpenAI Сэм Альтман и гендиректор аэрокосмической и ИИ-корпорации Илон Маск. Однако не все на рынке восприняли эти предупреждения всерьез. Так, известный шортист Майкл Бьюрри заявил, что считает слова главы Anthropic саморекламой перед IPO.