OpenAI показала результаты своего inference-чипа Jalapeño: он обошел системы на NVIDIA
habr.comOpenAI опубликовала первые результаты тестирования Jalapeño — собственного ASIC для инференса языковых моделей. На публичном бенчмарке InferenceX чип показал более высокую производительность на ватт и меньшую задержку по сравнению с коммерческими системами на NVIDIA GB200 и GB300.
Тесты проводили на трех open-weight моделях: GPT-OSS 120B, DeepSeek R1 670B и Kimi K2.5 1T. Во всех трех случаях OpenAI заявляет преимущество Jalapeño по совокупности ключевых метрик.На пиковых нагрузках чип показал в 1,5–1,9 раза больше полезной ИИ-работы на ватт, а end-to-end latency оказалась ниже в 1,7–3,6 раза.
