«За ИИ платят дважды»: CEO Microsoft предупредил о зависимости от Anthropic и OpenAI

Компании, которые полагаются на чужие модели искусственного интеллекта, расплачиваются за них не только деньгами, но и собственными ноу-хау, вынужденно раскрывая их, предупредил глава Microsoft Сатья Наделла. Business Insider усмотрел в его статье скрытую критику Anthropic и других ведущих ИИ-разработчиков.

12 июля Наделла опубликовал в X статью «Обратный информационный парадокс», которую начал известной дилеммой экономиста Кеннета Эрроу: продавец информации рискует отдать знание даром при попытке найти на него покупателя. ИИ перевернул ситуацию с ног на голову: теперь знание рискует отдать покупатель, просто чтобы пользоваться тем, что купил, считает глава Microsoft.

«По сути, за ИИ приходится платить дважды: сначала деньгами, а потом кое-чем еще более ценным — конфиденциальными знаниями, которые необходимо раскрыть, чтобы этот ИИ оказался полезен, — пишет Наделла. — Со временем информационная асимметрия становится все сильнее. Поставщик узнает о вас все больше по мере того, как вы используете приобретенный продукт, тогда как вы почти ничего не знаете о том, какие сведения он извлекает из этого взаимодействия».

Одной защиты документов и баз данных здесь недостаточно, предупреждает глава технологического гиганта. Нейросети учатся на «выхлопе» работы с ИИ — запросах сотрудников, действиях агентов и особенно на исправлениях, которые люди вносят, когда модель ошибается. Эти правки складываются в знание о компании, которое конкурент не смог бы купить.

Наделла также раскритиковал двойные стандарты ИИ-разработчиков. «Поставщикам моделей нужна возможность обучать их на общедоступных данных в рамках доктрины добросовестного использования — это основа инноваций. Мне кажется ироничным, что затем они вводят жесткие ограничения на дистилляцию (обучение одной ИИ-модели на ответах другой — Oninvest), но оставляют за собой право учиться на данных об использовании продуктов клиентами», — заявил CEO Microsoft. Если обучение идет лишь в одном направлении, экономическая ценность концентрируется у владельцев моделей и систем их обучения, а не у тех, чьи знания используются, предупредил он.

Business Insider считает эти слова прежде всего «камнем в огород» Anthropic. Издание также упомянуло OpenAI, Google и Deepmind. Глава Anthropic Дарио Амодеи жаловался, что китайские разработчики крадут наработки компании, используя ее чат-бот для обучения собственных моделей, а в июньском письме сенаторам стартап назвал действия Alibaba «крупнейшей атакой» такого рода. 

Чтобы знания не утекали, компаниям нужен защищенный контур, считает Наделла. Внутри него должны накапливаться данные, история взаимодействий, тесты, обратная связь, память и настройки параметров моделей. Без согласия компании за пределы контура не должен выходить даже «информационный выхлоп», а результаты работы сторонних моделей бизнес должен иметь право использовать для настройки и обучения собственных систем.

Свой рецепт глава Microsoft свел к пяти условиям:

— Control (контроль) — свои критерии проверки качества ИИ и право компании накапливать и использовать историю запросов, исправлений, решений и обратной связи;

— Capability (возможность) — внутренняя среда, где модели можно обучать на реальных бизнес-процессах, «не раскрывая знания компании»;

— Choice (выбор) — отсутствие привязки к одной ИИ-модели: если она окажется недоступна, компания должна суметь работать на других;

— Cost (стоимость) — свобода выбора моделей позволяет решать задачи дешевле, не жертвуя качеством;

— Compound (приумножение) — знания и результаты обучения ИИ должны накапливаться и со временем приносить компании все большую отдачу.

Итоговый принцип он сформулировал так: бизнес должен иметь возможность использовать ИИ-модель, «не отдавая знания, которые делают его уникальным».