415.tech
シリコンバレー発、AIとテックの最前線
Cerebras、新チップなしでCS-4の性能を倍増

Cerebras、新チップなしでCS-4の性能を倍増

Cerebrasは、CS-3と同じ5nmプロセスのWSE-3ウェハーと44GBのオンウェハーメモリを搭載したCS-4において、性能を倍増させた。この向上は、クロック速度の引き上げ、電力供給と冷却の改善、そしてラックあたりのウェハー数を2枚から3枚に増やしたことによるものだ。Andrew Feldmanは、ユーザーあたり毎秒最大4,400トークン、NvidiaのGPU構成の最大30倍の性能に達すると述べており、OpenAIも同社のハードウェア上でCodex Sparkを稼働させている。推論速度の覇権争いは、もはやプロセスの微細化ではなく、パッケージングと冷却の競争となっている。SemiAnalysisは、ネットワークによる性能向上は小さく、飛躍の大部分はその他の最適化によるものだと分析している。

出典: the-decoder.com

Xでポストメール

1つのラックが今や2枚ではなく3枚のウェハーを収容し、ユーザーあたり毎秒最大4,400トークンを提供する。

Cerebras

なぜ重要か

  • → 性能向上は今やチップの微細化からではなく、パッケージングと冷却からもたらされる。AIハードウェアのボトルネックは変化している。
  • → 同じ5nmプロセスでNvidia GPUに対し30倍の高速化を実現することは、根本的なアーキテクチャ上の優位性を示す。
  • → 推論速度の優位性は、プロセスノードではなくシステム設計によってますます決定される。
冷却、シリコンではない
このエディションの他の記事