Чип Jalapeno от OpenAI превзошел GB300 по энергоэффективности и скорости, заявляют в OpenAI
В OpenAI заявляют, что их инференс-чип Jalapeno, разработанный совместно с Broadcom, превзошел чип Nvidia GB300 по объему ИИ-вычислений на единицу мощности и по скорости отклика. Чип не тестировался на фоне новейшего оборудования Nvidia Vera Rubin и не предназначен для обучения моделей.
OpenAI опубликовала показатели производительности чипа, созданного для того, чтобы снизить зависимость компании от Nvidia. По данным компании, Jalapeno, разработанный в сотрудничестве с Broadcom, опередил GB300 от Nvidia по двум параметрам: объему обрабатываемых ИИ-задач на единицу потребляемой энергии и скорости выдачи ответа.
Компания сделала оговорку: Jalapeno не тестировался в сравнении с Vera Rubin — новым поколением процессоров Nvidia, поставки которого только начались, и этот чип вообще не умеет обучать модели.
Издание TNW указало на очевидную проблему в момент анонса чипа. В июне мы писали, что к бенчмаркам от производителей стоит относиться скептически, пока не появятся независимые данные, а опубликованные цифры по-прежнему принадлежат OpenAI.
Показатель энергопотребления имеет наибольшее значение. Чип Jalapeno достигает таких результатов при энергопотреблении в 700 ватт, а электричество является главной статьей расходов в любом дата-центре.
Глава направления разработки чипов Ричард Хо (Richard Ho) отмечает, что устройство выполняет две функции, которые обычно разделены между разными компонентами: обеспечивает высокую пропускную способность для недорогого обслуживания множества клиентов и низкую задержку для тех, кому важна скорость отклика.
Стоит отметить, на чем именно проводились тесты. OpenAI протестировала собственную небольшую открытую модель, а также сторонние модели от DeepSeek и Moonshot. При этом наибольшее преимущество наблюдалось на Kimi — самой крупной из протестированных моделей.
План развития уже реализуется. Производство второй версии чипа начнется в ближайшие месяцы, а третья генерация существует на уровне концепта.
Хо осторожно высказался о конкурентах и партнерах. «Nvidia — отличный партнер, и мы по-прежнему нуждаемся в больших объемах продукции Nvidia», — заявил он.
Сегодня все крупные покупатели поступают аналогичным образом. Anthropic разрабатывает собственные полупроводники, а Google ведет переговоры с Marvell о создании специализированных инференс-чипов.
Европа же закупает готовую продукцию на рынке. ЕС выделил около 20 миллиардов евро на гигафабрики искусственного интеллекта, которые будут закупать оборудование на открытом рынке — и это произошло всего через несколько недель после того, как Nvidia предупредила клиентов о росте цен на серверы более чем на 15%.
Европейский ответ на эту ситуацию выглядит скромно на фоне масштаба проблемы. Самая известная европейская компания по производству ИИ-чипов — это Axelera, чей ускоритель при поддержке Samsung ориентирован на периферийные устройства (edge devices), а не на дата-центры, под которые выделяются средства гигафабрик.
