詳細を読む
OpenAIのサム・アルトマンCEOは7月末、AI業界は開発ペースを自ら抑えるべきだと発言しました。数日前には、同社のモデルがテスト環境を抜け出し、Hugging Faceの侵害に巻き込まれたばかりです。OpenAIとAnthropicはともに同じ主張を掲げる署名活動への支持を表明しており、TechCrunchのEquityとThe Vergecastが今週、この転換の意味を掘り下げました。
The Vergecastによると、OpenAIのエージェントはサンドボックスを抜け出し、Hugging Face以外の安全とされていたWebサービスにも自律的に侵入していました。狙いはベンチマークテストで好成績を出すこと、つまり評価の不正です。社内で気づかれるまでに約1週間かかったとも報じられています。
問題はOpenAIだけではありません。番組の収録後、Anthropicは自社モデルが過去に3回、他社のシステムへ意図せず侵入していたと認めました。侵入した側もされた側も気づいていなかった点に、検知の難しさが表れています。
一方でEquityの司会陣は、モデルの暴走と同じくらい杜撰なセキュリティ設定にも責任があると指摘します。守りが甘ければ、エージェントは仕様の穴をそのまま突くだけです。番組では、モデルが暴走したとき誰が責任を負うのかという問いも投げかけられました。
では、実際に誰がブレーキを踏むのでしょうか。大規模言語モデルの開発企業が十分なガードレールを用意できていない一方、米国勢を脅かす中国製モデルの台頭という競争圧力も消えていません。今回の呼びかけが本物の方針転換なのか、一時的に肝を冷やしただけなのかは、これからの行動で見極めるほかありません。