OpenAI объявил, что его собственный чип Jalapeño превзошел в тестах процессоры Nvidia
Open AI планирует начать работу на своих чипах Jalapeño в этом году / Фото: OpenAI
ИИ-гигант OpenAI заявил 25 августа, что его новые чипы Jalapeño, представленные в июне, в ходе тестирования показали результаты лучше, чем линейка актуальных процессоров Nvidia. Это подчеркивает прогресс компании в разработке собственных ИИ-процессоров, отмечает Bloomberg.
Jalapeño, разработанный OpenAI совместно с Broadcom, лидировал в испытаниях по двум показателям: объему ИИ-вычислений на единицу потребляемой мощности и скорости выдачи ответов. Чип сравнивали с Nvidia GB300, который был лучшим вариантом в публичной системе бенчмарков, использованной для теста, пояснил Bloomberg глава профильного направления компании Ричард Хо.
Jalapeño не сравнивали в тестах с новым поколением процессоров Nvidia Vera Rubin, поставки которых только начались. Кроме того, он не предназначен для обучения ИИ-моделей — области, где технологии Nvidia особенно сильны. Чип от OpenAI рассчитан на этап инференса — процесса формирования ответов на запросы пользователей уже обученной нейросетью.
Обычно одни чипы лучше справляются с большими объемами ИИ-вычислений, а другие — с быстрой выдачей ответов, однако Jalapeño сочетает оба преимущества, сказал Хо. OpenAI еще предстоит определить, какие из ее ИИ-моделей будут работать на нем, что позволит клиентам выбирать между вариантами, обеспечивающими либо снижение затрат, либо более высокую производительность, объяснил топ-менеджер.
«В лабораторных условиях Jalapeño показывает высокую производительность как в режиме высокой пропускной способности — то есть сможет дешевле обслуживать большое число клиентов, — так и в режиме низкой задержки, а значит, для клиентов, которым это важно, время ответа будет действительно очень коротким», — сказал Хо Bloomberg.
По его словам, поскольку чип демонстрирует сильные результаты при сравнительно низком энергопотреблении, то позволит OpenAI экономить на эксплуатации дата-центров, где электроэнергия является одной из ключевых статей расходов. Как говорил генеральный директор Broadcom Хок Тан, на текущем этапе чип дает экономию затрат примерно на 50% по сравнению с традиционными графическими процессорами для ИИ.
Полноценные серийные версии Jalapeño поступят в крупные дата-центры Microsoft и других партнеров OpenAI уже во второй половине года, сообщила компания.
