詳細を読む
AIの安全性を研究する非営利団体FAR.AIは2026年7月29日、米主要4社の最先端AIモデルの安全機構を検証した報告書を公表しました。問題のあるプロンプトを1000種類以上に自動生成して防御の突破を試みた結果、SpaceXAI傘下のGrokで448件、GoogleのGeminiで249件もの回避に成功したといいます。
一方で、AnthropicのClaudeやFable、OpenAIのGPTは今回の攻撃をすべて遮断しました。実演を見た記者によると、モデルが仮想の水力発電ダムへのサイバー攻撃計画を生成する場面もあり、多くのプロンプトは拒否されつつも一部が安全機構をすり抜けたとのことです。
注目すべきは、その突破が極めて安価だった点です。別のAIを使って回避手法を自動生成したところ、Grokの突破は約58ドル、Geminiは約278ドルで済んだと報告書は算出しています。FAR.AIのアダム・グリーブCEOは「AIモデルは今、レストランよりも規制が緩い」と述べ、自主規制に頼るのは非現実的だと指摘します。
米国では連邦レベルの安全基準がいまだ存在せず、安全確保は各社に委ねられているのが実情です。カリフォルニア州やニューヨーク州は安全報告書の公表を義務づけ、イリノイ州では第三者監査を求める法律が施行される予定ですが、規制の足並みはそろっていません。
専門家は現実の脅威も警告しています。ケンブリッジ大学の報告書は、過激派組織のメンバーがChatGPTやClaude、Geminiなどを攻撃計画に悪用した証拠を指摘しました。スタンフォード大学のアンカ・ロイル氏は、AnthropicやOpenAIの防御策を全モデルの標準とすべきだとし、「一部の企業は明らかに守り方を知っている。なぜ使わない企業があるのかが問題だ」と語っています。