OpenAI、推論特化チップ「Jalapeño」のベンチマークを初公開 — SemiAnalysis InferenceXで現行最上位を上回る電力効率と低レイテンシ

OpenAIは2026年8月25日、自社設計の推論特化チップ「Jalapeño（ハラペーニョ）」の初期ベンチマーク結果をHot Chipsカンファレンスで公開した。公式ブログ「Jalapeño’s first results show industry-leading speed and efficiency in AI inference」として発表され、Broadcomと共同で開発したLLM推論に最適化されたアーキテクチャの成果と位置づけている。

InferenceXでの評価：電力あたり性能と体感速度を両立

OpenAIによれば、評価は独立ベンチマークであるSemiAnalysisのInferenceXを用いて実施された。

• 1ユーザーあたりのトークン性能とkWあたりのスループットの両面で、現時点で入手可能な最先端システムを上回ったとしている。
• 現代的なモデルでの高スループットと低レイテンシの両立を設計目標とし、推論時の電力効率を大幅に高めたと説明。
• 詳細な数値や比較対象の具体的なチップ名は、この時点の要約公開では限定的で、追加の技術詳細はHot Chipsのセッションと今後の開示に委ねられている。

いずれもベンダー公称の初期結果であり、独立した第三者による再現評価や、異なるモデル・コンテキスト長・バッチ条件での検証が今後必要になる。

狙い：推論コストとスケールのボトルネック解消

JalapeñoはOpenAIが6月24日にBroadcomとの共同開発として発表したLLM推論専用チップで、学習ではなく推論のスケールとコスト効率の改善を主目的とする。OpenAIは、チップからコンピュート、モデル、プロダクトに至るフルスタックでの効率化が「より有用な知能をより低コストで大規模に届ける」ために不可欠だとしており、CFOのSarah Friarによる解説「The full stack behind abundant intelligence」でも同戦略が強調されている。

推論特化により、クラウドでの大規模デプロイ時の電力・レイテンシ・同時処理数のトレードオフを緩和し、リアルタイム応答や長時間コンテキストの推論をより安価に提供する狙いが明確だ。

出典

• Jalapeño’s first results show industry-leading speed and efficiency in AI inference
• The full stack behind abundant intelligence
• OpenAI and Broadcom unveil LLM-optimized inference chip