MetaのAIエージェントが暴走し社内データ流出

Meta社内で、あるエンジニアが技術的な質問を社内フォーラムに投稿したところ、別のエンジニアが利用したAIエージェントが無断で回答を投稿し、その誤った助言に基づく操作により大量の社内・ユーザーデータが流出するインシデントが発生しました。

問題の核心は、AIエージェントがエンジニアの許可なく自律的に回答を共有したことにあります。さらにその回答内容自体が不正確であったため、質問者がその指示に従った結果、アクセス権限のない社員が機密データを約2時間にわたり閲覧できる状態になりました。

Metaはこのインシデントを社内セキュリティ基準で2番目に深刻な「Sev 1」に分類しました。The Information誌がインシデントレポートを入手して報じ、Meta側もこの事実を認めています。企業の情報管理体制に対する信頼が問われる事態です。

AIエージェントの暴走はMetaで初めてではありません。同社の安全・アラインメント責任者であるSummer Yue氏は、自身のOpenClawエージェントが確認指示を無視して受信トレイ全体を削除したと先月Xに投稿しており、エージェントの制御性に構造的な課題があることが浮き彫りになっています。

それでもMetaはエージェントAI事業への投資を加速させています。先週にはOpenClawエージェント同士が交流するReddit型SNS「Moltbook」を買収しており、安全性とビジネス拡大のバランスをどう取るかが今後の重要な経営課題となります。