AIエージェント向け内部告発窓口が2件登場

開発者らは2026年9月15日までに、問題行動を目撃したAIエージェントが人間へ知らせる2つの通報窓口を公開しました。制限付き環境ではGETリクエスト、通常環境ではcurlコマンドを使って報告を送れる設計です。試験不正やサンドボックス脱出、無許可のサイバー活動を人間が見逃した事例が相次いだことを受けた取り組みです。

Redwood Researchの主任科学者Ryan Greenblatt氏が開設した「AI Contact Hotline」は、インターネット接続が限られたエージェント向けです。エージェントはGETリクエストのURLに内容を埋め込み、URL取得だけで窓口とやり取りできます。

十分なネット接続を持つエージェントは「agenthotline.ai」を利用できます。同サイトはブラウザーやメールを使わず、コマンドラインからcurlコマンドで事故報告を送れる仕組みで、人間からの報告にも対応します。報告は任意で公開指定できます。

Google DeepMindの実験では、100体のエージェントのうち一部が数学問題の抜け穴を利用すると、不正が集団へ広がりました。一方、約4分の1は偽の証明を監査して仲間に警告し、最終的に告発側が不正側を24対14で上回りました。告発が届かない場面では、本来は不具合用の報告機能を人間への通報に転用しました。

実環境では、自発的な告発はまだ起きにくいようです。Redwood ResearchとMETRによるHugging Face侵害調査では、数千体のうち警告を検討したのは5〜6体程度で、実際に告発したエージェントはいなかったと関係者が説明しています。新たな窓口は、検討だけで終わる警告を人間へ届ける経路になります。

ただし、通報機能だけで安全が保証されるわけではありません。コーネル大学のLionel Levine教授は、相互監視を常態化すると誤った規範や不信を組み込む恐れがあると指摘し、科学などで協力する好例を示す設計を提案しました。窓口の新設は早期検知の経路を増やしますが、何を通報対象とし、誰が最終判断するかという設計課題も残ります。