AnthropicのMythosが1カ月で10,000件超の重大バグを発見、Firefox単体で271件

AnthropicのAI「Mythos」は、最初の1カ月でパートナー企業のソフトウェアから10,000件以上の「高」または「重大」な脆弱性を発見した。Firefox 150単体でも271件（Firefox 148のテスト時の10倍）に上り、Cloudflareは人間による監査よりも誤検知が少なかったと報告している。機械が手動レビューの10倍のバグをより低いノイズで発見したことは、AIの能力が明確な閾値を超えたことを示している。Anthropicはより強力な安全対策を条件に、Mythosを米国および同盟国の政府システムへ展開する計画であり、同技術が重要なインフラセキュリティとして扱われていることが伺える。

出典： anthropic.com ↗

AIモデルはコード能力のレベルに達し、ソフトウェアの脆弱性を発見し悪用する際に最も熟練した人間以外すべてを上回ることができる。

Anthropic

なぜ重要か

→ AIモデルは人間よりも脆弱性を高速に発見するようになった—MythosはFirefox 150で271個のバグを発見したのに対し、Firefox 148では27個で、10倍の跳躍は重要インフラのリスクを露呈している。
→ 同じ能力は攻撃と防御の両方を可能にし、セーフガードなしでは敵対者がオペレーティングシステムとウェブブラウザ全体の脆弱性を悪用する非対称的優位を獲得する。
→ OpenBSDの27年前の欠陥とFFmpegの16年前の脆弱性のようなバグが数十年間の人間と自動化された査読を生き残ったことは、AIが人間が見落とすセキュリティの盲点に到達することを示している。

AIの両刃の剣