Траты Amazon на ИИ вышли из-под контроля, теперь их стараются обуздать — FT

Сотрудники Amazon выявили несколько случаев «катастрофического» превышения расходов на искусственный интеллект из-за ошибок при внедрении технологии и отсутствия контроля за затратами, пишет Financial Times со ссылкой на источники. Как выяснила компания, при новой тарификации, на которую перешли OpenAI и Anthropic, ИИ может «сжигать» тысячи и даже миллионы долларов, не принося при этом ощутимого результата.

На одном из собраний старшие инженеры Amazon рассказали коллегам, что пытались делегировать искусственному интеллекту задачи, прежде выполнявшиеся программистами. И это привело к «незапланированным» расходам. Теперь инженеры разрабатывают автоматизированные механизмы контроля, которые должны ограничивать затраты в будущих проектах. Об этом Financial Times рассказали источники в компании. Эти случаи показывают, с какими трудностями сталкиваются даже крупнейшие технологические компании, пытаясь интегрировать искусственный интеллект в работу и при этом не допустить перерасхода бюджета, отмечает издание.

«Трудно понять, сколько вообще стоит что-либо, связанное с ИИ», — заявил газете высокопоставленный сотрудник Amazon.

На встрече инженеры описали случай, когда нейросеть Claude Sonnet от Anthropic потратила $1,8 млн на сопоставление сведений об авторах с карточками товаров на платформе электронной коммерции Amazon. Это внедрение ИИ в компании признали неудачным, сообщил собеседник FT: расходы превысили бюджет проекта на 860%, а обнаружить перерасход удалось лишь спустя пять месяцев.

Инженеры Amazon отметили, что ошибки в программном коде, устранение которых силами программистов обходилось «практически бесплатно», при использовании ИИ становились «катастрофически дорогими». Ведущие инженеры компании предупредили сотрудников, что этот случай перерасхода средств не был единичным. В другом проекте компания понесла около $541 000 непредвиденных расходов при разработке инструментов финансового аудита. Еще один инцидент произошел при использовании ИИ для ускорения доставки в логистической сети Amazon: непредвиденные расходы достигли $134 000, а выявить их удалось лишь более чем через две недели.

В презентации инженеров отмечалось, что приведенные случаи затронули лишь несколько команд Amazon. Всего в корпоративных подразделениях компании работают около 300 тыс. человек.

«Как и в случае с любой новой технологией, мы экспериментируем, учимся и совершенствуем способы ее применения, в том числе повышаем эффективность затрат, — заявил FT представитель Amazon. — Выбор отдельных небольших примеров, когда команды учатся друг у друга, и представление их как обычной практики не отражают того, как подразделения Amazon используют ИИ».

Статья FT о бесконтрольных тратах Amazon на ИИ вышла незадолго до публикации отчетности компании. После закрытия торгов в Нью-Йорке технологический гигант сообщит результаты за второй квартал. Акции Amazon в ходе торгов в четверг росли на 5,2%, до $238,5. С начала года они подорожали на 3,3%.

Amazon проводит масштабные сокращения персонала, стремясь снизить расходы и профинансировать огромные инвестиции в ИИ. Ожидается, что в этом году капитальные расходы компании достигнут $200 млрд, причем подавляющая часть этой суммы будет направлена на искусственный интеллект и инфраструктуру дата-центров, пишет FT.

Компании сталкиваются с ростом стоимости внедрения ИИ-инструментов по мере того, как их поставщики меняют модели ценообразования. В частности, лаборатории искусственного интеллекта Anthropic и OpenAI перевели некоторые сервисы с фиксированной абонентской платы на тарификацию по токенам — единицам данных, обрабатываемым моделями.

Изменения в ценообразовании вынуждают компании отказываться от наиболее продвинутых моделей в пользу более дешевых решений среднего уровня и альтернатив, включая модели с открытым кодом, при использовании которых приходится платить только за необходимые вычислительные мощности.

В мае Amazon закрыл внутренний рейтинг, в котором сотрудников ранжировали по активности использования платформы для разработчиков Kiro, писала FT. Система привела к так называемому tokenmaxxing: сотрудники искусственно наращивали потребление токенов в ИИ. Руководители Amazon сообщили работникам, что сервис создавался «из благих побуждений», но, в конечном счете, привел к росту расходов, а не эффективности.