415.tech
シリコンバレー発、AIとテックの最前線
OpenAI、Cerebras上でGPT-5.6 Solを14倍速で実行する「Ultrafast」をプレビュー

OpenAI、Cerebras上でGPT-5.6 Solを14倍速で実行する「Ultrafast」をプレビュー

OpenAIは、Cerebrasのウェーハスケールハードウェア上でGPT-5.6 Solを毎秒約750出力トークン(標準の14倍)で実行する新ティア「Ultrafast」のプレビュー版を公開した。これにより、速度のためにフロンティアモデルの品質を犠牲にするという従来のトレードオフを打破している。フルサイズのモデルをリアルタイムのレイテンシで利用できるようになったことで、インシデント対応、リアルタイムのカスタマーサポート、金融市場分析、Eコマースなど、これまで応答を待てなかったワークフローへの適用が可能になる。インフラのキャパシティが拡大するまでアクセスは一部の顧客に限定されるため、現時点ではすぐに購入できる製品というよりも、推論用シリコンの今後の方向性を示すシグナルと言える。

出典: techcrunch.com

Xでポストメール

これまで、リアルタイムの速度を得るには、通常、より小型か、あるいはより特化したモデルを選ぶことを意味した。Ultrafastは新しい方向への進歩を示している。それは、1秒あたりにより多くの有用な作業だ。

OpenAI

なぜ重要か

  • → Frontierモデルの速度が全能力を発揮することで、これまで不可能だったリアルタイムワークフローが可能になる。
  • → 14倍の高速化は、推論シリコンとモデルのデプロイメントが向かう方向性を示している。
  • → モデルの階層を定義してきた速度と品質のトレードオフを打ち破る。
速度と規模の両立