OpenAIは初のcustom inference chipであるJalapenoの測定結果を公表しました。InferenceXでGPT-OSS 120B、DeepSeek R1、Kimi K2.5 1Tを評価し、比較system比で1.5〜1.9倍のwork per watt、1.7〜3.6倍低いend-to-end latencyを示しています。 推論基盤の競争軸は、GPU調達量だけでなく、chip、serving software、memory、network、model designを同時に最適化できるかへ移ります。企業は性能値の前提、電力、対応model、cloud提供経路、既存運用との接続を確認する必要があります。 初の自社推論chipで測定結果を提示 OpenAIは2026年8月25日、初のcustom inference chipであるJalapenoの初回測定結果を公表しました。発表では、chip単体ではなくJalapenoとその周辺systemを含めて検証したと説明しています。対象はGPT-OSS 120B、DeepSeek R1、Kimi K2.5 1Tで、InferenceXというpublic benchmarkを使い、throughput、power efficiency、latencyの組み合わせを比較しました。OpenAIは、既存hardwareではthroughputと低latencyがtrade-offになりやすい一方、Jalapenoは同じarchitectureで両方を改善したと位置付けています。 電力あたり性能と遅延を同時に見る 原文では、3つのpublic models全体でJalapenoがpeak throughput時に1.5〜1.9倍多いAI work per wattを出し、end-to-end latencyは比較systemより1.7〜3.6倍低かったと説明しています。highly interactive workloadsでは2.1〜4.1倍高いperformanceも示されました。比較では各acceleratorのpublished chip power ratingを使い、Jalapenoは700 watts ratedながら、tested workloadsでのmeasured sustained powerは550 watts以下だったとしています。DeepSeek R1では19,641 vs. 11,781 mixed per kW、latency 1.65秒 vs. 5.99秒という例も示されています。 agent時代のserving設計に直結する 実務上の焦点は、推論基盤をGPU台数だけで見ないことです。agentは複数stepを順に進めるため、token生成の遅れがtask全体に積み上がります。Jalapenoのようにchip、serving software、memory、networkを同時に設計する場合、modelごとの最適化、batching、context管理、power envelope、障害時の切り替えを一体で評価する必要があります。企業が採用を検討する場合は、OpenAI製品としての提供範囲、APIやenterprise契約での利用可否、既存monitoringやcost allocationとの接続を確認することになります。 比較前提と提供計画は継続確認が必要 今回の発表はmeasured resultsを示すものですが、一般顧客がどの地域、どのservice tier、どの価格で恩恵を受けるかは別の確認事項です。benchmarkのmodel、token length、latency条件、chip power ratingの扱いも、自社workloadへ当てはめる際には再検証が必要です。OpenAIは今後Jalapenoをrampし、より速く効率的な製品へつなげるとしています。調達側は、短期の性能値だけでなく、複数世代platformとしてのroadmapとprovider集中リスクを合わせて見る必要があります。