415.tech
シリコンバレー発、AIとテックの最前線

Opus 4.8、プロンプトキャッシュヒットを維持する会話中のシステムメッセージを提供

Anthropicは5月28日、Opus 4.8をリリースし、4つの新機能を追加した。これには、実行時に指示が変更されてもキャッシュヒットを維持する会話途中のシステムメッセージ、必要な場合のみ理性を発動する適応型思考、`stop_details`内の拒否カテゴリ、およびタスクbudgetサポートが含まれる。翌日にはAWS上のManaged Agentsが一般提供(GA)され、IAMスコープのポリシーとセルフホスト型サンドボックスが導入された。これにより、マルチターンのエージェントを構築するチームは、キャッシュ価格で実行中に指示を切り替え、自社のAWSアカウント内で完全なマルチエージェントのオーケストレーションを実行できるようになった。

出典: platform.claude.com

Xでポストメール

messagesarrayの最初以外の位置でrole: "system"メッセージを送信できるため、長時間実行されるセッション中に指示が変わった場合でもプロンプトキャッシュヒットを保持できる。

Anthropic release notes

なぜ重要か

  • → 会話中のシステムメッセージにより、実行中に指示を切り替えられ、プロンプトキャッシュの節約を失わないため、マルチターンエージェントのコスト削減につながる。
  • → 適応的推論は必要な場合のみ推論を行うことでトークン浪費を削減し、同じ能力レベルで効率を向上させる。
  • → 拒否カテゴリにより、アプリは異なる拒否タイプを適切なハンドラーにルーティングでき、より賢いエラーハンドリングが実現する。
キャッシュ認識の実行中指示変更