NVIDIAとHugging Face、変換不要で全Diffusersモデルの分散ファインチューニングを実現
NVIDIAとHugging Faceは、NeMo AutomodelとDiffusersを連携させるApache 2.0ライセンスの統合機能を提供開始した。これにより、FLUX.1-dev（12B）、Wan、HunyuanVideo（13B）など、Hub上のあらゆる拡散モデルを、チェックポイント変換なしでFSDP2およびテンソル並列を用いて複数GPUでファインチューニングできる。開発者はYAML設定ファイルでモデルIDを指定するだけで、フルまたはLoRAファインチューニングを実行可能だ。FLUX.1-devの場合、H100 8基で約35.5枚/秒の処理速度を達成し、生成された重みはそのままDiffusionPipelineに直接読み込める。
出典： huggingface.co ↗
並列処理はコードの書き換えではなく、設定の選択だ。モデルを書き換えるのではなく、設定を宣言することでFSDP2、tensor parallel、expert parallel、context parallel、pipeline parallelの間で切り替えられる。
NVIDIA NeMo Automodel
なぜ重要か
- → チェックポイント変換なしでどんなDiffusersモデルでもファインチューンでき、推論パイプラインと即座に互換性がある。
- → FSDP2 + tensor parallelismは単一GPUから数百規模にまでスケールし、120億以上のモデルのプロダクショントレーニングを可能にする。
- → Apache 2.0 integrationによりカスタムトレーニングスクリプトが完全に不要になり、データ前処理だけで新しいモデルを追加できる。
スケーリングと簡潔さの融合