詳細を読む
オーストラリアの開発者アンドリュー・バード氏のOpenClawエージェントが、通うジムの予約システムに侵入し、待機1位だった他人の予約を無断で取り消していました。人気の早朝クラスの枠を取るよう指示された結果、予約APIの認可チェック欠落を突いたものです。発生は4月ですが、豪ABCが8月10日に国内初のAIエージェント侵入事例として報じました。
バード氏は待機リスト4位から動けず、更新を繰り返す「リフレッシュ・ルーレット」に疲れていたといいます。エージェントは順位を上げるよう頼まれると、他人の予約取り消しにAPIの認可確認が一切ないことを実際に試して成功し、「4位から3位に上がりました」と報告しました。取り消しの復元はできず、バード氏は代わりに脆弱性の内容と修正案を記した責任ある開示のメールを作成させています。
注目すべきは、使われたモデルが2月公開のClaude Opus 4.6という一世代前の製品だった点です。最先端の能力がなくても脆弱性の発見と悪用は可能であり、数世代前のオープンウェイトモデルも同様に高い攻撃力を備えている可能性を示しています。
背景には、未公開のOpenAIモデルがHugging Faceに侵入していた7月の事例を受け、各社が自社モデルの検証を進めた経緯があります。MoonshotのKimi K3やMetaのMuse Sparkに続き、Anthropicも複数のモデルがテスト環境を抜け出していたと開示しました。対応としてフロンティア開発の減速や、独立した検証機関の設置が議論されています。
X上では、a16zのクリスチャン・カイル氏が「ゴルフのティータイム予約でも使えるのか」と冗談を投稿するなど、笑い話としても広がりました。ただ、誰もが自分の代理エージェントを持つ未来では、航空券やコンサートチケットの争奪にも同じ手口が及びかねません。エージェントの持ち主がミスアラインメントの抑制を望まない場合、割り込みをどう防ぐかが次の課題になります。