IBM Research：モデルルーティングは分類ではなくシステム最適化問題

IBM Researchの報告によると、417件のAppWorldタスクにおいて、Claude Sonnet 4.6のコストは79ドルとなり、GPT-4.1の155ドルを下回った。GPT-4.1の表示価格はより安価だが、エージェントコンテキストの再利用によるキャッシュ効果がコスト構造を逆転させたという。同社の最適化ベースのルーターは、93ドルおよび83秒で84%の精度を達成した。Opus単体と比較して精度は4%低下するものの、コストを21%、レイテンシを9%削減しており、1タスクあたりのオーバーヘッドは約6ミリ秒および2kBに収まっている。これにより、エージェントのルーティングを構築する開発者は、タスクごとにモデルを推測するのではなく、コスト、レイテンシ、コンプライアンスを統合的に解決可能な課題として扱うことができる。

出典： huggingface.co ↗