Sakana AIとNYU、数十億個のキューブでトランスフォーマーを訓練しプレイ可能なMinecraftの世界を生成
Sakana AIとニューヨーク大学（NYU）は、Minecraftのキューブをトークンとして扱う「Dream-Cubed」をリリースした。数百億個のキューブで訓練されたトランスフォーマーにより、編集およびプレイ可能な世界を生成できる。論文、符号、データセットはすべて公開されている。これにより、インペインティング、アウトペインティング、無限に広がるマップのブロック単位での制御を備えた、構成的トークンによる3D生成手法が即座に再現可能となった。
出典： sakana.ai ↗
キューブをトークンとして使うことで、大規模なTransformerも同じことができるようになる。
Sakana AI
なぜ重要か
- → Transformerモデルは、画像やテキストだけでなく、プレイ可能な3D世界を大規模に生成するようになった。
- → 離散トークン（キューブ）は、言語モデルを支えるのと同じ構成的トレーニングを可能にする。
- → 完全なデータセットとコードが公開されている—今日、生成AIによる3Dへの再現可能な道筋だ。
言語としてのキューブ