AI安全論、専門家が警告する現実の脅威

WIREDは2026年11月、AI安全をめぐる議論が人類絶滅の予測に偏っていないかを検証するため、異なる分野の専門家10人に懸念と対策を聞きました。多くは絶滅の断定には慎重な一方、核運用への不確かなAIの導入、サイバー攻撃、生物・化学分野で危険な実験を容易にする可能性を、具体的な課題として挙げています。

専門家の一人は、AIを核関連業務に組み込めば、誤りやすいシステムが重大な判断に関与し、破局的な失敗につながりかねないと警告しました。別の専門家は、攻撃者が防御側より先にAIを活用する期間が当面続く可能性を指摘。研究室向けAIエージェントも、研究を支援する一方で危険な病原体開発などの参入障壁を下げる恐れがあるとしています。

一方、「AIが自律的に暴走して人類を滅ぼす」といった懸念を最も差し迫った問題とみなさない専門家もいます。根拠や検証方法を示さない予測ではなく、どの被害を防ぐのかを特定し、リスク評価や防御策につなげるべきだという主張です。開発停止については、企業間競争のなかで長続きしにくいとの見方が目立ちました。

対策として複数の専門家が、AI企業の透明性、事故時の責任、社内の内部告発者を守る制度を求めています。政府の対応は技術の進歩に遅れるとの懸念もあり、計算可能な安全基準や、金融システムでエージェントが使える操作範囲をAPI上で制限する案が語られました。

脅威は技術事故に限りません。専門家は、AIの影響を受ける職種で若年層の雇用が減っているとの報告や、学生が課題に取り組みながら考える時間の減少にも言及しました。雇用や教育の変化を支える政策と、AI時代に合った授業・評価方法を急いで整える必要があるというのが、記事を貫く論点です。