Anthropic、Claude Mythos 5を企業向けコードスキャンと提携ツールに提供開始
Anthropicは、サイバーセキュリティ特化型のフロンティアモデル「Claude Mythos 5」を、エンタープライズプランにおけるClaude Securityのコードベーススキャンで利用可能にした。また、パートナー企業のセキュリティ製品への組み込みも進めており、追加料金は発生せず標準のトークン消費として扱われる。アクセスは意図的に一方向に制限されている。防御側はモデル自体にアクセスするのではなく、検出結果、CWEタグ付きの深刻度、および修正パッチの提案を受け取る。これは、攻撃者にエクスプロイト生成能力を渡すことなく、最先端のサイバー能力を普及させるための仕組みである。同社はまた、過去の400万ドルの寄付に続き、オープンソースセキュリティを支援するDefender Advantage Fundを通じて3500万ドル分のクレジットを提供すると発表した。さらに今後数週間以内に、Cyber Verification ProgramをMythosクラスのアクセスへと拡大する予定である。
出典： claude.com ↗
ユーザーがモデルに直接アクセスできる場合に、最も危険な行動が発生する。そこでは、悪意あるアクターがそれを有害な用途に誘導しようと試みることができる。しかし、ユーザーが脆弱性のパッチやセキュリティアラートのような特定の出力のみを受け取れる場合、そのリスクははるかに低い。
Anthropic
なぜ重要か
- → Frontier AIの能力は、モデルへの直接アクセスではなくツールを通じて防衛者に届き、悪用リスクを低減する。
- → オープンソースのメンテナーは、脆弱性を大規模に修正するため、3500万ドルのスキャンクレジットを受け取る。
- → ガードレール付きのアクセスは、攻撃能力を与えることなく、Frontier cyber modelsを企業防衛者へ拡大する。
危険なき防衛