TencentのHy4 Preview、7700億パラメータと100万トークンコンテキストに到達

Tencentは、総パラメータ数7700億、トークンあたりのアクティブパラメータ数490億、100万トークンのコンテキストを備えたオープンウェイトのテキスト専用モデル「Hy4 Preview」をリリースした。ダウンロードサイズは1.56TBに達し、総パラメータ数2950億、アクティブパラメータ数210億、25万6000トークンのコンテキストを備えていた7月の「Hy3」から2倍以上の規模に拡大している。オープンウェイトでの公開とOpenRouterでの提供により、この規模のモデルがAPI専用製品としてではなく、ダウンロード可能な形で利用できるようになった。ただし、1.56TBというサイズのため、セルフホストできるのは大規模なGPUクラスターを持つユーザーに限られる。