詳細を読む
非営利団体ControlAIの米国エグゼクティブディレクター、コナー・リーヒー氏は2026年9月9日、TechCrunchの番組で、企業による超知能AIの開発を止めるべきだと主張しました。人間を上回る能力を持つAIは確実に制御できず、整合性の確保や封じ込めだけでは危険を管理できないとの判断で、米国や英国に広がる規制法案と国際的な検証体制を対策として挙げています。
背景には、AI企業が超知能を不可避なものとして語る一方、OpenAIのHugging Face侵害など安全上の問題が起きている状況があります。リーヒー氏は、整合性の確保と封じ込めだけではリスクが大きすぎるとの立場です。
同氏が真の後戻りできない地点とみるのは、AIがより優れたAIを作れるようになる段階です。自己改良が連鎖して制御困難になる可能性を踏まえ、超知能を人間が扱う「武器」ではなく「敵対者」と表現しました。
政策面では、米国のサンダース、カサール両氏による「超知能禁止法案」と、ControlAIが助言した英国の並行法案を取り上げました。一方で、米国法案は必要以上に踏み込む可能性があるとの見方も示しています。
リーヒー氏は、先端AI研究所を利益追求だけの企業ではなく政治的主体として捉え、データセンター建設に投じられる巨額資金の意味を問います。国際対応では「信頼するが検証する」合意を提唱し、中国にとっても超知能の開発は利益にならないとの見解を示しました。