Tencent、2950億パラメータのMoE「Hy3」をApache 2.0でOSS化

Tencentは、2950億パラメータ（アクティブパラメータ数210億）と256Kトークンのコンテキストを備えたMixture-of-Expertsモデル「Hy3」を、寛容なApache 2.0ライセンスの下でリリースした。このライセンス採用こそが重要なシグナルであり、自由にデプロイや改変が可能なフロンティア規模のモデルとなっている。同社によると、前世代モデルと比較してハルシネーションを12.5%から5.4%に削減しつつ、同規模のオープンモデルを凌駕しているという。同モデルは7月21日までOpenRouter経由で無料で利用可能であり、Simon Willisonは自身のSVGペリカン生成ベンチマークでテストを実施している。

出典： marktechpost.com ↗