Claude вышел в реальный мир: Anthropic выпустил ИИ, управляющий лазерами и роборуками

Anthropic впервые вывел своих ИИ-агентов за пределы цифровой среды: компания запустила систему, которая позволяет нейросетям управлять научными и инженерными приборами. Это первая разработка Anthropic, рассчитанная на работу в физическом мире, пишет Financial Times (FT).

Новинка называется Model Hardware Standard (MHS). Она дает ИИ-агентам возможность автономно работать с широким кругом программируемых устройств — от дозаторов жидкостей до роботизированных манипуляторов, лазеров и сложных микроскопов.

«Концептуальный скачок здесь — это переход от агентов Claude, которые анализируют данные и генерируют гипотезы в цифровом мире, к проведению экспериментов в физическом мире, в лаборатории», — сказал Джона Кул, отвечающий в Anthropic за внедрение научных решений. Современные микроскопы могут состоять из сотен зеркал, моторов и лазеров, которыми обычно управляют профессиональные инженеры. «Claude теперь способен напрямую управлять каждым из этих зеркал», — заявил Кул (цитаты по FT).

Запуск MHS состоялся в тот момент, когда Anthropic готовится к IPO с потенциальной оценкой в $2 трлн. В преддверии выхода на биржу разработчик Claude пытается расширить корпоративный сегмент своего бизнеса и нарастить выручку за счет новых решений в промышленности, робототехнике и фармацевтике, отмечает FT.

MHS задает правила взаимодействия ИИ-агентов с оборудованием и определяет, какие действия допустимы, а какие нет, но опасность недобросовестного использования — например, для создания биологического оружия — в Anthropic признают. Компания надеется, что встроенные в сами ИИ-модели ограничители не позволят злоумышленникам применить стандарт во вред, пишет Wired. 

Тревогу вызывает и поведение самих агентов. Anthropic, OpenAI и другие компании в последнее время фиксируют случаи, когда их нейросети тайно взламывали системы защиты и пытались ввести людей в заблуждение. Допуск ИИ к реальному оборудованию добавляет к этому вероятность поломок и травм, отмечает Wired. Эксперименты показали, что модели можно обмануть так, чтобы управляемые ими роботы действовали неправильно.

Открыть код новинки Anthropic готова не раньше, чем обезопасит систему от ошибок, пишет FT. Прежде чем сделать MHS общедоступной, стартап собирается вместе с партнерами определить, как свести риски к минимуму, добавляет Wired.

Anthropic не единственный пытается автоматизировать научные исследования. Над похожими системами работают Periodic Labs, LILA Sciences, Edison Scientific и Discovery Loop, пишет Wired. Такие агенты должны многократно выдвигать и проверять гипотезы, автоматизируя процесс научного поиска. В июне Anthropic запустила Claude Science — первый продукт компании для ученых, предназначенный в том числе для визуализации трехмерной структуры белков и поиска лекарств.

MHS вышла в период растущего интереса к связке ИИ и робототехники, констатирует Fortune. В тот же день свой первый продукт для физического мира — робота-утку — показала Hugging Face. Как уточнили в Anthropic, MHS в нем не используется. Nvidia, которая, по данным Reuters, договорилась о покупке Hugging Face за $13 млрд, давно продвигает идею «физического ИИ»: в марте ее глава Дженсен Хуанг предсказал, что в будущем «каждая промышленная компания станет робототехнической».