415.tech
シリコンバレー発、AIとテックの最前線
推論API、発行元のみ読み取れるプロバイダー固有ステートを返す仕様に

推論API、発行元のみ読み取れるプロバイダー固有ステートを返す仕様に

Earendil Engineeringは、推論APIがポータブルな会話履歴を返さなくなった現状をまとめている。具体的には、暗号化されたreasoningブロブ、ソーステキストがクライアントに到達しないホスト型検索、プロバイダー側のIDに紐づく会話ステートなどが挙げられる。OpenAIのResponses APIはデフォルトで少なくとも30日間これらのオブジェクトを保持し、GeminiのInteractions APIは有料枠で55日間、無料枠で1日間保持する。また、Anthropicのドキュメントでは、thinkingブロックを生成元のモデルに紐づけている。レスポンスIDはアプリケーション側で制御できないデータベースの外部キーとなっているため、ポータビリティを確保するには、「store: false」の設定、正規のローカルイベントログ、クライアントサイドの検索ツールといった明示的な対策が必要になる。

出典: earendil.com

Xでポストメール

response IDは(データがサーバーに保存されているため)トランスクリプトではない。ciphertextは(ユーザーが復号できないため)ユーザーが制御できるものではない。引用リストは、検索結果によってモデルのコンテキストに配置されたエビデンスではない(なぜなら通常それを取得できないからだ)

Earendil Engineering

なぜ重要か

  • → AI会話履歴はプロバイダー間で移植できなくなり、ベンダーのインフラにロックされる
  • → ユーザーはモデルが見たものを完全にエクスポートまたは監査できず、制御と再現性が制限される
  • → 推論、検索、状態は暗号化されるかサーバーに保存され、セッションの所有権がプロバイダーに移る
あなたのAIセッションはあなたのものじゃない