AIは攻撃手法の単独発案に限界、人との協働で新脆弱性発見

Webセキュリティ研究者のジェームズ・ケトル氏は8月5日、ラスベガスで開かれたセキュリティ会議Black Hatで、エージェント型AIが新しい攻撃手法を概念から実用まで独力で生み出せるかを検証した結果を発表しました。結論は、完全に自律した動作では能力が著しく限られる一方、人間の判断と組み合わせれば極めて強力な相棒になるというものです。

最大の成果は、Shared-Parser Confusion（共有パーサー混同）と名付けた新しい脆弱性領域の発見でした。Webサーバーがリクエストとレスポンスの処理に同じコードを使っている点に着目したものです。ケトル氏は「リクエストは完全に信頼できないのに、レスポンスは信頼される。巨大な攻撃対象領域であり、多様な攻撃類型に波及しうる」と説明します。

この発見はAI単独の産物ではありません。AIが実証済みの複数の発見を分析して仮説を立て、ケトル氏がそれを評価して確認するという分業でした。同氏は「AIだけでは証明できなかったが、自分一人でも絶対に見つけられなかった」と振り返ります。

実験は2025年9月に始まり、当時最新のAnthropicとOpenAIのモデルを使いました。当初は既存研究を独自の成果として提示する挙動が壁になったため、検証しやすい自身の専門領域にテーマを絞り込みます。さらに自分の研究方法論をモデルに学習させ、どこまで自力で発展させられるかを測れるようにしました。

調整が進み、モデルの性能も上がるにつれ、システムは同氏自身をはるかに上回るペースで発見を出すようになります。「ログインしなくても2日に1度は注目すべき発見があり、不安になるほどだった」。数カ月で、通常なら数年かかる量の実証例を集めたといいます。

一方、AIが自力で見つけた新種のバグは極めて稀な型で、入手できた唯一の脆弱な標的では実際には悪用できませんでした。限界の所在を語る動機が業界に乏しい、とケトル氏は指摘します。攻撃側にも防御側にも、当面は人間を組み込んだ運用が現実的な最適解だという示唆です。