OpenAI の Jalapeño チップ、大規模な高速推論向けに設計 - ベンチマーク結果

OpenAIのJalapeñoチップは、大規模かつ高速な推論のために設計された。SemiAnalysisのベンチマークで、既存の最先端チップを上回るトークン数と電力効率を記録した。

• OpenAIが開発したJalapeñoチップは、大規模かつ高速なAI推論向けに設計されています。
• SemiAnalysisのベンチマークでは、既存の最先端推論プロセッサと比較して、ユーザーあたりのトークン数と電力あたりのスループットで優位性を示しました。
• Jalapeñoは、AIワークロードあたりの電力効率と応答速度の両方を向上させます。
• 2026年末から少量、2027年にかけて本格展開が予定されています。
• Broadcomとの協力により開発され、推論プロセスのボトルネックとなるプリフィルと通信フェーズの遅延を最小化する設計が特徴です。