Anthropic уличил своих ведущих китайских конкурентов в скрытом использовании Claude

Передовые китайские ИИ-лаборатории Moonshot и DeepSeek, стремясь получить преимущество в гонке за лидерство в сфере ИИ, тайно перенаправляли тысячи запросов пользователей к моделям Claude от американской Anthropic и выдавали ответы за свои собственные, выяснили в Anthropic. О соответствующем отчете американской компании, где она также описала ряд других видов неправомерного использования своей ИИ-платформы — от хакеров до авторитарных режимов, — пишут Bloomberg и The Wall Street Journal (WSJ).

«Если бы кто-то, вроде Anthropic, или из наших [других] коллег делал то, что они [китайские ИИ-компании] делают, это стало бы большим скандалом», — заметил руководитель отдела анализа угроз в Anthropic Джейкоб Кляйн (цитата по WSJ).

Занимающиеся искусственным интеллектом лаборатории из КНР, как выяснили в американской компании, вместо того, чтобы обрабатывать пользовательские запросы через собственные ИИ-модели, — перенаправляли их чат-ботам Anthropic, не сообщая об этом самим юзерам. В частности, в одном из случаев Anthropic обнаружил почти 300 тыс. пользовательских запросов, которые Moonshot направляла преимущественно в американскую ИИ-модель Opus. И так как Anthropic не разрешает доступ к своим технологиям из Китая, Moonshot использовала для этого 5380 поддельных аккаунтов, большинство из которых, судя по всему, были зарегистрированы в Сингапуре и Японии, пишет со ссылкой на отчет компании Bloomberg.

WSJ уточняет, что запросы, которые китайские ИИ-лаборатории тайно перенаправляли нейросетям Anthropic, содержали в себе, в том числе конфиденциальные данные, вроде информации о местоположении или паролях. Так, в одном случае пользователь попросил китайскую нейросеть Kimi AI от Moonshot проанализировать данные видеонаблюдения за одним человеком, которые были получены с сотен камер видеонаблюдения в китайском Чэнду (и Moonshot, используя сеть посреднических платформ, передал эти данные Claude, утверждают в Anthropic). В другом случае — Kimi передал Claude учетные данные для входа в систему нескольких фирм, когда инженер пытался через китайскую ИИ-модель разрабатывать ПО для китайской компании.

В целом, используя сеть из тысяч поддельных аккаунтов, Moonshot в период с мая по июль этого года обменялась с Claude более чем 23 млн пользовательских запросов, заявили в американской компании. Аналогичные действия, по данным Anthropic, за последние семь месяцев также совершали DeepSeek, Xiaomi и другие ИИ-фирмы — всего семь китайских лабораторий. Их шаги в Anthropic назвали частью процесса, известного как дистилляция, — когда разработчик использует данные более мощной и крупной ИИ-модели для улучшения своей менее мощной системы. Американские лаборатории, как правило, запрещают сторонним компаниям применять дистилляцию к своим моделям, поясняет WSJ, подчеркивая однако, что, по словам американских чиновников, этот прием тем не менее по-прежнему остается широко используемой лазейкой, которая позволяет некоторым участникам ИИ-гонки догонять более продвинутых игроков.

Представитель Moonshot отказался комментировать WSJ заявления Anthropic. В DeepSeek и Xiaomi на запросы Bloomberg о комментариях оперативно не ответили.

Материал дополняется