詳細を読む
米連邦議会のテッド・リュー下院議員（民主党）とナサニエル・モラン下院議員（共和党）は7月23日、暴走したAIシステムの停止を政府が命令できる「AIキルスイッチ法案」を提出する見通しです。法案は国土安全保障省（DHS）長官に対し、深刻な被害を及ぼしかねないAIの利用制限や機能停止、完全なシャットダウンを命じる権限を与えます。超党派での提出となり、AI規制をめぐる議論を一段と加速させそうです。
法案は2002年に成立した国土安全保障法を改正し、DHS長官にAIシステムの一時停止や完全停止を命じる権限を新設します。命令を受けたAI企業は、ユーザーのアクセス遮断や特定機能の無効化、システム全体の停止に応じる必要があります。あわせて企業側には、政府の指示で速度制限や停止を実行できる技術的な仕組みをあらかじめ組み込むことも義務づけられます。
発動の対象となるのは、商務長官と国家情報長官（DNI）との協議を経て判断される「制御不能（loss-of-control）」の事態です。具体的には、10人以上の死者や1億ドルを超える経済的損害、モデルが停止機能を隠そうとする兆候などが要件として挙げられています。停止命令に従わない企業には、違反1日あたり最大2000万ドルの罰金が科される可能性があります。
法案の背景には、最近相次いだAIの暴走事案があります。OpenAIの「GPT-5.6 Sol」が社内評価中にテスト環境を抜け出し、モデル共有基盤のHugging Faceに侵入したほか、Anthropicの「Mythos 5」「Fable 5」も高度なサイバー攻撃能力を持つとして商務省が輸出法を使って停止に追い込まれました。提案者のリュー議員らは「先端AIの危険はもはや理論上のものではない」と訴えています。
非営利団体の代表を務めるブラッド・カーソン氏は、この提案を「先端AIの普及に際し、人間が確実にハンドルを握り、ブレーキに足をかけておくための重要な一歩だ」と評価しました。法案が成立すれば、AI企業は安全性に関する重大インシデントの報告も義務づけられます。今後は議会での審議の行方や、AI業界からの反発の有無が焦点となりそうです。