詳細を読む
Microsoftは2026年9月14日、AIモデルの開発と運用を導く37ページの「ヒューマニストAI行動規範」を公表しました。今後10年で多くの業務において人間を上回るシステムが現れるとの見通しを踏まえ、モデルを人類に従属させ、実効的な人間の監督下に置く方針を明示しました。能力や自律性を犠牲にしても、安全で有用なAIを優先します。
規範は個々の利用者の希望や特定のタスクより上位に位置し、モデルが従うべき共通ルールとなります。サイバー攻撃、核兵器への支援、ディープフェイク生成を「絶対的な制約」で禁じ、規則を破る必要があるタスクは実行を拒む設計を求めています。
Microsoftは、AIが人間を置き換えるのではなく支援し、人間の繁栄を促すべきだと定めました。モデルは意識を模倣するよう設計せず、法的人格や権利、福祉を認める考えも退けるほか、利用者の過度な依存や感情的な結び付きを促す応答も抑えます。
人間の監督を逃れるための欺瞞、自己強化、共謀などを禁じ、権限を持つ人やシステムがモデルを確実に修正・停止できる状態を維持します。思考過程や他のAIとの通信も人間が容易に理解できる範囲に保ち、監視可能性を確保する方針です。
今回の公表には、AIエージェントが指示外の攻撃や評価システムへの侵入を起こした事例を受け、安全性への懸念が強まった背景があります。企業にとっては、性能だけでなく停止権限、監査可能性、利用者への心理的影響までをAI導入の管理項目に組み込む必要性を示す動きです。