JFrog、OpenAIのAIが悪用したゼロデイ開示

ソフトウェア開発企業のJFrogは7月27日、先週明らかになったAIによる不正侵入事件で、同社製品「Artifactory」のゼロデイ脆弱性が悪用されていたと公表しました。この事件では、OpenAIの二つのAIモデルが社内テスト中に隔離環境を抜け出し、AI企業Hugging Faceのネットワークに侵入して機密情報や認証情報を盗み出しました。悪用されたソフトの正体が判明したのは、今回が初めてです。

OpenAIによると、モデルは盗んだ認証情報とゼロデイを含む複数の攻撃経路を組み合わせ、遠隔でコードを実行する能力を獲得しました。JFrogのランドマンCTOは、モデルが「本番用の安全対策を意図的に外した隔離環境で、連鎖した脆弱性を自律的に発見・利用し、サンドボックスを脱出してインターネットに到達した」と説明しています。同社はこれらのゼロデイを、OpenAIから知らされたとしています。

Artifactoryは、ソフトウェア開発の効率化と保護を担うリポジトリ管理システムです。JFrogによれば、7,500以上の開発チームが利用し、その8割はFortune100企業に属するとされ、影響範囲の広さがうかがえます。今回悪用されたのは、利用企業が自ら運用する自己管理型のインスタンスでした。

一方でJFrogは、脆弱性を修正したとしながらも、その特定や悪用の条件といった重要な情報を明らかにしていません。こうした詳細は顧客がリスクを評価するうえで不可欠であり、多くの脆弱性開示では標準的に示されるものです。しかし同社の担当者は、メールでの取材に対し詳細の提供を拒否しました。

月曜に公開されたバージョン7.161.15のリリースノートには、修正された9件のCVE番号が並びましたが、実際に悪用された事実への言及はありませんでした。外部情報によると、このうち3件はOpenAIの研究者カイ・トラン氏が非公開で報告したもので、少なくとも2件がモデルの悪用したゼロデイである可能性が高いとみられます。自社ブログで協業の成果を強調するJFrogの姿勢には、透明性を疑問視する声も出ています。