OpenAI и Broadcom представили новый чип: он сократит расходы на запуск ИИ вдвое

OpenAI представила в среду первый специализированный ИИ-чип, разработанный совместно с Broadcom. Он создавался именно для работы с современными большими языковыми моделями, а не как универсальный процессор. Кастомный процессор должен дать создателю ChatGPT преимущество за счет адаптации аппаратного обеспечения под свои продукты, отмечает Bloomberg.

Чип и платформа под него получили название Jalapeño — в честь острого мексиканского перца, однако OpenAI никак не объяснил этот выбор. 

Компания уже начала тестирование опытных экземпляров. По словам генерального директора Broadcom Хока Тана, на текущем этапе ускоритель демонстрирует экономию затрат примерно на 50% по сравнению с традиционными графическими процессорами для ИИ.

Полноценные серийные версии Jalapeño поступят в крупные дата-центры Microsoft и других партнеров OpenAI уже во второй половине года, сообщила компания. Ранее партнеры ожидали, что в следующем году развернут чипов с общей вычислительной мощностью в 1,3 гигаватта, однако теперь в Broadcom заявили, что этот прогноз может быть превзойден. «Мы рассчитываем показать еще лучший результат, поскольку спрос очень высокий», — сказал Тан в пресс-релизе.

Хотя OpenAI по-прежнему в значительной степени зависит от полупроводников Nvidia, стартап стремится расширить круг поставщиков на фоне стремительного роста спроса на ИИ-сервисы, пишет Bloomberg. В частности, компания заключила многомиллиардные соглашения с такими производителями чипов, как AMD и Cerebras Systems.

В октябре OpenAI и Broadcom впервые сообщили о совместной разработке графических ускорителей, оптимизированных для работы с ИИ-моделями. OpenAI планирует потратить десятки миллиардов долларов на чипы Broadcom, увеличивая и без того огромные расходы на инфраструктуру, отмечает агентство.

В марте OpenAI привлек $122 млрд финансирования для поддержки масштабных инвестиций в чипы, дата-центры и специалистов.

В отрасли одни ИИ-чипы ориентированы на выполнение большого количества задач одновременно и используются для обучения моделей, тогда как другие оптимизированы для максимально быстрого ответа на отдельный запрос пользователя, известного как инференс. OpenAI заявляет, что его цель — объединить оба подхода: мощность лучших современных ИИ-процессоров и скорость специализированных решений для инференса.

Новый чип должен повысить эффективность за счет сокращения объема данных, которые необходимо перемещать внутри системы. Архитектура также оптимизирована под наиболее важные для передовых ИИ-моделей сценарии использования вычислительных ресурсов, памяти и сетевого оборудования, говорится в пресс-релизе Broadcom.

По словам Тана, компании уже разработали дорожную карту следующих поколений чипов. Следующая версия запланирована на 2028 год, а затем новые поколения будут выпускаться ежегодно. Если Jalapeño ориентирован прежде всего на инференс, то будущие процессоры могут быть адаптированы и для других типов вычислительных нагрузок.

Тан считает, что примеру OpenAI последуют и другие разработчики передовых ИИ-моделей, создав собственные оптимальные кастомные ИИ-ускорители и сетевую инфраструктуру для них.