詳細を読む
米国軍がベネズエラに侵攻しニコラス・マドゥロ大統領を拘束したという歴史的な出来事の直後、AI生成の偽情報がソーシャルメディア上で爆発的に拡散した。深夜に始まったトランプ大統領の発表から数分以内に、事実確認のされていない画像・動画・テキストが大量に流通した。
特に問題となったのは、ChatGPTがマドゥロ拘束という事実を否定または知らないと回答し続けたことだ。ユーザーは速報情報をAIに確認しようとしたが、ChatGPTのトレーニングデータのカットオフにより正確な情報が提供できなかった。
AIが「知らない」と回答する場合より、誤った事実を自信を持って回答する場合の方が被害が大きい。今回のケースでは、ChatGPTの否定的な回答がむしろ偽情報拡散を助長する逆説的な状況が生まれた。
ソーシャルメディア上では、AIで生成された偽のマドゥロの動画・偽の政府声明・改ざんされた衛星画像などが出回り、情報の真偽判断が著しく困難になった。従来のファクトチェック機関が追いつけない速度での拡散だった。
この事件は、リアルタイムの政治的出来事におけるAIの情報信頼性設計の根本的な問題を浮き彫りにした。RAG（検索拡張生成）や最新ニュース連携機能の重要性が改めて認識されるとともに、AIの回答に対するユーザーリテラシー教育の必要性も高まっている。