2026年8月25日、OpenAIは年次チップ技術カンファレンス「Hot Chips」において、自社開発AI推論チップ「Jalapeño」の初公開ベンチマーク結果を発表した。SemiAnalysisが公開したInferenceXベンチマークテストによると、Jalapeñoは1ワット当たりのAI推論処理量においてNVIDIA GB200およびGB300システムの1.5〜1.9倍を達成し、エンドツーエンドのレイテンシを比較対象システムの28〜59%に短縮した。定格消費電力700Wのこのチップは、定格消費電力1400WのNVIDIA旗艦製品を効率面で全面的に上回った。
OpenAIのハードウェア責任者Richard Hoは発表会後、メディアに対して「Jalapeñoは単位エネルギー当たりより多くのAIワークロードを処理でき、同時に応答速度も速い。大規模ユーザーへの効率的なサービス提供と、極めて低いレイテンシの両立が可能だ」と語った。Sam Altmanはより簡潔に「我々はチップを作った。速い」と述べた。
このチップが実現したこと
JalapeñoはOpenAIとBroadcomが共同開発したカスタムAIアクセラレーターであり、設計当初から大規模モデルの推論のみを対象としている。これはNVIDIA GPUの「学習・推論両対応」路線とは根本的に異なるアプローチだ。専用化により、汎用GPUでは踏み込めないアーキテクチャレベルのトレードオフが可能になる。
今回のテストは業界を代表する3つのオープンソースモデルを対象とした:GPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1Tである。DeepSeek R1を例に挙げると、入力8K・出力1Kの推論タスクにかかる時間が5.99秒から1.65秒に短縮され、最小トークン生成間隔は5.90ミリ秒から1.43ミリ秒に圧縮された。SemiAnalysisの測定データによれば、インタラクティブな低レイテンシシナリオでは、Jalapeñoの優位性はさらに拡大し2.1〜4.1倍に達する。
ラック全体の規模で見ると、128基のJalapeñoアクセラレーターで構成されるシステムは、4ビット演算で1.7 exaFLOPSの処理能力を提供し、27.5TBのHBM4メモリと約2 petabytes/secのメモリ帯域幅を備える。
なぜ速いのか:「メモリウォール」を突破する
現代のAIチップの演算速度はデータ転送速度をはるかに超えている。チップの計算は速くても、ウェイトやKVキャッシュをメモリから演算コアへ転送する速度が追いつかず、演算ユニットの多くの時間がデータ待ちに費やされる。これが大規模モデル推論における長年の「メモリウォール」問題だ。
Jalapeñoの解決策は、演算・メモリ・チップ間ネットワークを独立したモジュールの組み合わせとして扱うのではなく、統合アーキテクチャ設計に取り込むことだ。SemiAnalysisの開示によると、各Jalapeñoは216GiBのHBM4メモリを搭載し、メモリ帯域幅は15.4TB/sに達する。これはMicrosoft Maia 200(HBM3e)の約2倍に相当する。チップ内部では演算コアとHBMが複数の対応するローカル領域に分割されており、モデルウェイトとKVキャッシュは処理を担うローカルメモリに優先的に保持され、領域をまたぐ通信のみ専用高速ネットワークを経由する。
消費電力データはこのアーキテクチャの優位性を最も直接的に示している:Jalapeñoの定格消費電力は700Wで、実測の持続消費電力は550W未満;NVIDIA GB200の定格消費電力は1200W、GB300は1400Wである。データセンターの電力コストは実質的な運営費用であり、エネルギー効率の差は、同規模の演算能力に必要な電気代・冷却費・ラックスペースの大幅な削減を意味する。
9ヶ月でAIチップを1枚作る
Jalapeñoの開発期間もまた注目に値する。OpenAI公式ブログの開示によると、Jalapeñoは正式設計開始からテープアウトまでわずか9ヶ月で完了した。Semiconductor Engineeringの業界推計では、この種の高複雑度AIアクセラレーターチップの正式設計期間は通常18〜24ヶ月を要する。
タイムラインは以下の通りだ:プロジェクトは2025年2月頃に正式設計フェーズに入り、初期チームの多くは元Google TPUプロジェクト出身者;2025年11月にテープアウト完了;2026年5月にOpenAIが最初の完成チップを受領;2026年8月に調整を終えHot Chipsでテスト結果を公開。重要な点として、OpenAI自身のAIモデルがこのプロセスに深く関与した:方案探索、設計検証、演算回路の最適化いずれにもモデルが介入している。チップ受領後、OpenAIはさらにCodexと社内モデルを活用し、当初の適合計画に含まれていなかったDeepSeek R1やKimi K2.5等のモデルのサポートを2ヶ月以内に完了させた。
NVIDIAの堀はどこにあるのか
Jalapeñoは純粋な推論専用チップであり、学習タスクには対応しない。CUDAエコシステムとH/Bシリーズ GPUを基盤とするNVIDIAのAI学習分野における支配的地位は、現時点でいかなるチップも正面から挑戦できない状況にある。
複数機関の推計によると、NVIDIAは現在AIチップ市場の約70〜75%のシェアを占めている(データセンター向けAIアクセラレーター収益ベース)。一方、Tom's Hardwareの業界分析によれば、カスタムAIサーバー向けASICの出荷量は2026年に年間約44.6%増という成長率を示しており、汎用GPUの16.1%増を大きく上回る。両者は現在、置き換えではなく共存の関係にある。
OpenAI自身もNVIDIA GPUの購入継続を明言している。ハードウェアの現実として、大規模な新モデル学習は依然としてNVIDIAのエコシステムに依存する。一方、日常的な推論サービスの規模と頻度は全く別次元の話であり、世界で数億人のユーザーを抱えるプロダクトを運営する上で、推論コストが最大の継続的支出となる。この観点において、Jalapeñoが解決しているのは実在するスケールエコノミーの問題だ。
Broadcomの見えざる版図
Jalapeñoは孤立した事象ではなく、より大きなトレンドの一部だ。Broadcomは現在、Google TPU、Meta MTIA、Microsoft Maia、そしてOpenAI Jalapeñoのチップ設計協力を同時に手がけており、AIサーバー向けカスタムASIC分野の設計協力市場において約60%のシェアを占める。トップクラスのAI研究機関や超大規模クラウドサービス事業者が「自社チップ開発」路線を歩む際、その背後にはほぼ必ずBroadcomの存在がある。
この構図は業界の構造的転換を示している:AIコンピューティングは「NVIDIAの標準製品を調達する」から「垂直統合型カスタムシリコン」へとシフトしており、Broadcomはその道筋において最も重要なインフラサプライヤーとなった。モデルを持ち、推論コストを負担する者が、自社チップ開発へのインセンティブを持つ。これはOpenAI一社のロジックではなく、Google、Amazon、Microsoft、Metaそれぞれが歩んできた道でもある。
結論
これはOpenAIが初めて、スライドや概念デモではなく、公開比較可能な実物のベンチマークデータを示した瞬間だ。700WでNVIDIA旗艦システム(1400W)の2倍の処理量をこなすという数字は、AI推論のコスト構造が根本から書き換えられることを意味する。
NVIDIAの学習分野における参入障壁は短期間では揺るがないが、推論市場はまさに現在のAIサービス事業者が最も多くのコストを費やしている領域だ。この自社チップ競争の核心にあるロジックは、「NVIDIAを打倒する」ことではなく、「推論コストをより大規模なAIアプリケーションを支えられるレベルまで下げられるか」にある。Jalapeñoが示した答えは、現時点で最も説得力のあるものだ。
© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接