Anthropic уличил своих ведущих китайских конкурентов в скрытом использовании Claude

Передовые китайские ИИ-лаборатории Moonshot и DeepSeek, стремясь получить преимущество в гонке за лидерство в сфере ИИ, тайно перенаправляли тысячи запросов пользователей к моделям Claude от американской Anthropic и выдавали ответы за свои собственные, выяснили в Anthropic. О соответствующем отчете американской компании, где она также описала ряд других видов неправомерного использования своей ИИ-платформы — от хакеров до авторитарных режимов, — пишут Bloomberg и The Wall Street Journal (WSJ).

«Если бы кто-то, вроде Anthropic, или из наших [других] коллег делал то, что они [китайские ИИ-компании] делают, это стало бы большим скандалом», — заметил руководитель отдела анализа угроз в Anthropic Джейкоб Кляйн (цитата по WSJ).

Занимающиеся искусственным интеллектом лаборатории из КНР, как выяснили в американской компании, вместо того, чтобы обрабатывать пользовательские запросы через собственные ИИ-модели, — перенаправляли их чат-ботам Anthropic, не сообщая об этом самим юзерам. В частности, в одном из случаев Anthropic обнаружил почти 300 тыс. пользовательских запросов, которые Moonshot направляла преимущественно в американскую ИИ-модель Opus. И так как Anthropic не разрешает доступ к своим технологиям из Китая, Moonshot использовала для этого 5380 поддельных аккаунтов, большинство из которых, судя по всему, были зарегистрированы в Сингапуре и Японии, пишет со ссылкой на отчет компании Bloomberg.

WSJ уточняет, что запросы, которые китайские ИИ-лаборатории тайно перенаправляли нейросетям Anthropic, содержали в себе, в том числе конфиденциальные данные, вроде информации о местоположении или паролях. Так, в одном случае пользователь попросил китайскую нейросеть Kimi AI от Moonshot проанализировать данные видеонаблюдения за одним человеком, которые были получены с сотен камер видеонаблюдения в китайском Чэнду (и Moonshot, используя сеть посреднических платформ, передал эти данные Claude, утверждают в Anthropic). В другом случае — Kimi передал Claude учетные данные для входа в систему нескольких фирм, когда инженер пытался через китайскую ИИ-модель разрабатывать ПО для китайской компании.

В целом, используя сеть из тысяч поддельных аккаунтов, Moonshot в период с мая по июль этого года обменялась с Claude более чем 23 млн пользовательских запросов, заявили в американской компании. Аналогичные действия, по данным Anthropic, за последние семь месяцев также совершали DeepSeek, Xiaomi и другие ИИ-фирмы — всего семь китайских лабораторий. Их шаги в Anthropic назвали частью процесса, известного как дистилляция, — когда разработчик использует данные более мощной и крупной ИИ-модели для улучшения своей менее мощной системы. Американские лаборатории, как правило, запрещают сторонним компаниям применять дистилляцию к своим моделям, поясняет WSJ, подчеркивая однако, что, по словам американских чиновников, этот прием тем не менее по-прежнему остается широко используемой лазейкой, которая позволяет некоторым участникам ИИ-гонки догонять более продвинутых игроков.

Представитель Moonshot отказался комментировать WSJ заявления Anthropic. В DeepSeek и Xiaomi на запросы Bloomberg о комментариях оперативно не ответили.

О том, что ведущие китайские ИИ-лаборатории, в том числе DeepSeek и Alibaba, систематически выкачивали данные американских нейросетей, накануне в совместном заявлении объявили Агентство национальной безопасности, ФБР и Агентство по кибербезопасности и защите инфраструктуры США. В Министерстве коммерции Китая, реагируя на это, заявили, что «фактических или правовых оснований» для обвинений в промышленном копировании американских ИИ-моделей китайскими ИИ-лабораториями нет. Также ведомство пригрозило принять ответные меры, если США «начнут сдерживать или подавлять» китайские компании, занимающиеся ИИ, пишет Bloomberg.

Отчет Anthropic о нарушениях использования американских нейросетей вышел на фоне нового витка конкуренции и ценовой борьбы между американскими и китайскими ИИ-разработчиками. Так, релиз Moonshot в июле новой открытой ИИ-модели Kimi K3, которая, как утверждали в компании, была сопоставима с разработками OpenAI и Anthropic, но при этом обходилась клиентам намного дешевле, чем американские аналоги, — вызвал фурор на рынке. Позже, в августе, вызов Anthropic бросил DeepSeek, представив экспериментальную ИИ-модель, способную обрабатывать визуальные запросы. А в сентябре эта же китайская ИИ-компания представила превзошедшую Kimi K3 ИИ-модель Flash 4.1, которая однако взимает комиссию в размере долей цента за миллион токенов.