415.tech
シリコンバレー発、AIとテックの最前線
Hugging FaceモデルがAzure AI Foundryでワンクリックデプロイ可能に

Hugging FaceモデルがAzure AI Foundryでワンクリックデプロイ可能に

厳選され毎週更新されるHugging Faceモデル群が、Azure AI Foundryのマネージドコンピュート上でワンクリックでデプロイ可能になった。これらはSafeTensors形式のみに限定してセキュリティ審査されており、Microsoftのガバナンスと可観測性の下で提供され、請求も一本化される。モデルの重みはAzureストレージに事前配置され、ランタイムイメージも同社管理のレジストリに保存される。そのため開発者は、Hugging Face Hubへの外部アクセスを持たないプライベートネットワーク内であっても、vLLM、SGLang、TensorRT-LLM、llama.cppといった複数のエンジンでオープンモデルを実行できる。現在はプレビュー版として提供されており、価格や初期の対応モデル一覧は公開されていない。

出典: huggingface.co

Xでポストメール

ウェイトがAzure storageに事前にステージングされ、ランタイムイメージがMicrosoftが管理するレジストリに格納されるため、デプロイメントはHugging Face Hubへのアウトバウンドネットワークアクセスを必要としない。プライベートネットワーク内で本番環境にデプロイできる。

Microsoft Foundryドキュメント

なぜ重要か

  • → 企業環境でopen modelsを展開する上での運用上の摩擦を解消する
  • → Hugging Face Hubへのアウトバウンドアクセスなしで、プライベートネットワークでの推論を可能にする
  • → フロンティアモデル、オープンソースモデル、カスタムモデル全ての請求とSDKを統合する
open models、エンタープライズグレード