出典：Ars Technica
詳細を読む
AI開発企業Anthropicは2026年10月15日、非営利の評価機関METRのチームを社内に受け入れ、ハードウェアや内部システムに社員並みのアクセスを認めたと発表しました。高度化するClaudeなどのモデルが経済やサイバー安全、人類に及ぼすリスクを、機密を守りながら第三者が継続的に検証するためです。
METRはOpenAI、Anthropic、Google、Metaなど主要AI研究所との評価実績を持ちます。今回の常駐体制は、外部評価者の役割を広げるという研究所側の約束を具体化する最初の一歩です。
Anthropicのダリオ・アモデイ最高経営責任者は9月、主要研究所に外部監査人を常駐させる案を提唱しました。OpenAIのサム・アルトマン氏とSpaceXのイーロン・マスク氏も賛同しましたが、OpenAIは評価者受け入れの計画をまだ示していません。
Anthropicは、モデルの能力向上に伴い、より強固な安全策と難度の高いリスク評価が必要になったと説明します。一方、安全関連情報の全面公開は悪意ある利用者や競合を利する恐れがあるため、銀行の常駐検査官に似た監督方式を採ります。
ただし、企業が受け入れる外部評価者には利益相反が生じ得るとの批判があります。会計業界の問題を引き合いに政府規制の強化を求める声もあり、評価機関の独立性をどう担保するかが今後の焦点です。