Wikipedia、AI生成文の検出・削除を強化

Wikipediaでは、2023年に始まったボランティア活動「WikiProject AI Cleanup」が、サイトの方針に反するAI生成文の発見・削除を進めています。英語版がLLMによる記事作成を禁じるなか、参加者は文章の構造や投稿速度、引用の整合性を手掛かりにし、AIを使った検証ツールも併用して、巧妙化する投稿への対応を強めています。

発足の契機は2023年12月ごろ、複数の編集者が「豊かな文化遺産」など同じ定型句や、不自然な結論節を持つ記事を相次いで見つけたことでした。現在は「三つ並べ」の構文や否定の対句など、単独では断定できない特徴の蓄積に加え、数分で長文記事を何本も投稿する行動も確認しています。

特に深刻なのが、実在する出典の内容をAIが誤って説明し、本文の主張を裏付けない引用を付ける問題です。検出企業Pangramのツールによる保守的な推計では、AI生成と判定された新規記事・草稿は2025年後半の約20％から2026年初めに15〜16％へ下がりましたが、規則の効果かモデルの進歩による見逃しかは判明していません。

対策では、ページの出典と主張が一致するかを調べるAI出典検証ツールを編集者が開発し、Wikimedia Foundationも一部チャットボットから貼り付けた文章を検知するPaste Checkを開発しています。AI検証には誤りの可能性があるものの、大量の記事から明白な問題を絞り込む第一段階として活用されています。

今後の論点は、AIが信頼できる文章を書けるようになった場合にも、人間が執筆する百科事典というWikipediaの性格を守るかどうかです。AI検索経由で引用だけを見る利用者が増える事態に備え、Wikimedia Foundationは最終編集日や記事の充実度、問題の指摘状況などをAI利用者へ示す帰属情報の枠組みも検討しています。