PerplexityのSearch as Code、エージェントによる検索スクリプト生成でトークン85%削減
Perplexityの「Search as Code（SaC）」は、固定の検索API呼び出しを、サンドボックス内で実行されるエージェント生成のPythonスクリプトに置き換える機能だ。200件の重大なCVEを追跡する社内タスクでは、トークン使用量が85%減少し、自社ベンチマーク5項目のうち4項目でAnthropicやOpenAIのシステムを上回るスコアを記録した。これにより、同社のAgent APIやPerplexity Computerを利用するエージェントは、固定APIの戻り値に依存せず、並列クエリの実行や独自のフィルター処理を含むカスタムの検索・フィルタリング・重複排除・再ランク付けパイプラインを自ら記述できるようになる。
出典： the-decoder.com ↗
SaCを用いて、モデルは3段階のスクリプトを記述した。それは、MozillaやGoogleのような特定のベンダーがセキュリティ情報をどのようにフォーマットするかに合わせて、並列検索を実行した。
Perplexity 技術レポート
なぜ重要か
- → Agentsは検索結果をプログラム的にフィルタリングできるようになったため、複雑なタスクにおいてトークンの無駄を85%削減する。
- → 制御を固定APIから、サンドボックスで実行されるモデルが記述したPythonスクリプトへと移行させる。
- → Agentsが訓練データを使用してWeb検索を偽装するベンチマークゲーミング問題に対処する。
コード主導型検索