OpenAI's 700W Jalapeño ASIC beats Nvidia GB300 in first benchmarks

Результаты бенчмарков: эффективность и задержка

На презентации в рамках Hot Chips 2026 OpenAI представила данные, полученные с использованием публичного набора тестов SemiAnalysis InferenceX. В сравнении участвовали чипы Jalapeño мощностью 700 Вт против ускорителей Nvidia GB300 номинальной мощностью 1200 Вт и 1400 Вт. Результаты показали, что Jalapeño обеспечивает от 1,5 до 1,9 раза большую пропускную способность на киловатт по сравнению с системами на базе GB200 и GB300.

В отношении задержки (latency) показатели также оказались в пользу нового чипа. OpenAI заявляет о снижении end-to-end задержки на 1,7 до 3,6 раза по сравнению с конкурентами. Наиболее впечатляющие результаты были получены при низких значениях задержки: в некоторых режимах пропускная способность на киловатт превышала показатели GB300 в 8,6–104,3 раза.

Важно отметить методологию сравнения. Результаты были нормализованы к опубликованной TDP (тепловой мощности) каждого ускорителя. При этом OpenAI указала, что измеренная устойчивая мощность Jalapeño в ходе тестирования не превышала 550 Вт. Если провести сравнение с учетом полной полезной мощности (all-in utility power), то разрыв между чипами сужается: для Jalapeño это 1,18 кВт против 2,55 кВт для GB300.

Сравнение с платформой Nvidia и ограничения теста

Важно понимать контекст сравнения. OpenAI не проводила тестов против платформы Vera Rubin, которая должна стать основой для первых гигаваттных систем Nvidia, развернутых во второй половине 2026 года. Кроме того, Jalapeño предназначен исключительно для инференса (вывода моделей) и не поддерживает задачи обучения, где оборудование Nvidia пока остается безальтернативным.

Еще один нюанс: основные сравнения проводились в режиме предсказания одного токена (single-token prediction), тогда как в производственных средах Nvidia часто использует предсказание нескольких токенов (multi-token prediction). В этом режиме преимущество Jalapeño снижается примерно до 1,5 раза.

Архитектура и память: борьба за HBM

Каждый пакет Jalapeño состоит из вычислительного ядра и шести стеков памяти HBM4, что в сумме дает 216 ГБ с пропускной способностью 15,4 ТБ/с. Для сравнения, GB300 оснащен 288 ГБ памяти HBM3E при номинальной мощности 1400 Вт. Таким образом, на каждый ватт номинальной мощности чип OpenAI предоставляет примерно на 50% больше памяти.

Архитектура Jalapeño направлена не на увеличение объема памяти, а на устранение узкого места — агрегированной пропускной способности HBM. Память остается самым дефицитным ресурсом в индустрии полупроводников. Samsung, SK hynix и Micron продали свои мощности по производству HBM до 2027 года. Дефицит настолько серьезен, что Nvidia рассматривает варианты сокращенных конфигураций Rubin Ultra с памятью всего на 192 ГБ.

Майкрон отметила на конференции Hot Chips, что чип HBM занимает примерно в три раза больше площади кремниевого кристалла (wafer area), чем DDR5 при эквивалентной емкости. Это ограничение усиливается с каждым поколением технологий. Масштабирование Jalapeño в рамках соглашения OpenAI и Broadcom на 10 ГВт сделало бы компанию значимым новым претендентом на поставки HBM4, которые сейчас доминирует Nvidia благодаря многолетним договорам с SK hynix.

Производство и планы развития

Первый чип Jalapeño был представлен в июне после девятимесячного цикла от RTL до выхода на производство (tapeout). Он изготовлен по процессу, сопоставимому с 3 нм TSMC, что позволяет OpenAI оставаться в тех же очередях для кремния, памяти и упаковки, что и Blackwell и Rubin.

Второе поколение чипа уже приближается к этапу tapeout и ожидается в течение нескольких месяцев. Работа над концепцией третьего поколения также ведется. Bloomberg сообщает, что OpenAI продолжает закупать необходимые компоненты, одновременно углубляя финансовую зависимость от Nvidia, которая недавно согласилась предоставить до 105 млрд долларов финансирования для дата-центра в Огайо.

Комментарии и экспертное мнение

Эксперты отмечают, что OpenAI не смогла обойти технологическое лидерство Nvidia. Сравнение проводилось с предыдущим поколением оборудования (GB300), а не с новейшей платформой Vera Rubin. Кроме того, многие специалисты указывают на то, что эффективность масштабирования (efficiency scaling) сейчас не на стороне Nvidia, но это компенсируется агрессивным тактовым частотой и ценой чипов.

Открытость OpenAI к использованию собственных решений может привести к конкуренции за производственные мощности фабрик. Однако ключевым фактором остается доступность HBM4, который сейчас контролирует Nvidia через долгосрочные контракты. Пока что Jalapeño выглядит как эффективное решение для инференса, но не как полная замена экосистеме Nvidia в ближайшие годы.

Заключение

Jalapeño демонстрирует, что специализированные ASIC-чипы могут превосходить универсальные GPU в задачах инференса по энергоэффективности. Однако доминирование Nvidia сохраняется благодаря экосистеме CUDA, доступу к HBM и поддержке обучения моделей. OpenAI делает ставку на собственное оборудование для снижения затрат, но полностью уйти от зависимости от Nvidia пока не удается.