OpenAI、Broadcomと共同開発の初カスタム推論チップ「Jalapeño」を発表

OpenAIは、リアルタイムのコーディングワークロード向けにBroadcomと共同開発したカスタム推論プロセッサ「Jalapeño」を発表した。初期のテスト結果では既存の代替製品を上回るワット当たり性能を示しているが、事前学習ワークロードは引き続きNvidia上で実行される。この動きにより、同社はGoogle（TPU）、Amazon（Trainium/Inferentia）、Microsoft（Maia）に続き、独自の推論シリコンを保有するフロンティアAI企業の仲間入りを果たし、AIアクセラレータ市場におけるNvidiaの価格決定力に直接的な圧力をかけることになる。

出典： techcrunch.com ↗

我々はワークロードを深く理解している。これまで、十分にサービスが提供されていない特定のワークロードを真剣に探し、「可能性を加速させることができる何かをどうすれば構築できるか」と問いかけてきたのだ。

Greg Brockman, OpenAI社長

なぜ重要か

→ 推論コストを削減し、AIサービスの収益性を大規模に向上させる
→ 最先端ラボ向けカスタムシリコンにおけるNvidiaの独占状態を打破する
→ モデル、ハードウェア、インフラストラクチャ全体にわたるフルスタックの最適化を可能にする

Nvidiaの支配を打ち破る