2026年3月、MIT物理学者のマックス・テグマーク氏らが主導する超党派の有識者連合が「人間中心AI宣言」を公表しました。数百人の専門家や元政府高官が署名し、責任あるAI開発の枠組みを初めて体系的に提示したものです。

宣言は5つの柱を掲げています。人間による制御の維持、権力集中の回避、人間体験の保護、個人の自由の保全、そしてAI企業への法的責任の追及です。特に注目すべきは、安全性に関する科学的コンセンサスと民主的合意が得られるまで超知能の開発を全面禁止するという条項です。

この宣言が発表された背景には、米政府のAI政策の混乱があります。2月末にヘグセス国防長官がAnthropicを「サプライチェーンリスク」に指定し、直後にOpenAIが国防総省と独自契約を結びました。専門家はこの一連の出来事を「AIの制御をめぐる国家的議論の始まり」と位置づけています。

テグマーク氏は規制の突破口として子どもの安全を挙げています。チャットボットや対話型アプリの出荷前テストを義務化し、自殺念慮の増加や精神的操作といったリスクを事前に検証すべきだと主張しています。この原則が確立されれば、バイオ兵器への悪用防止や超知能の暴走防止へと対象が自然に拡大するとの見通しを示しました。

元トランプ顧問のスティーブ・バノン氏とオバマ政権のスーザン・ライス元国家安全保障担当補佐官が同じ文書に署名したことは、AI規制が党派を超えた課題であることを象徴しています。テグマーク氏は「人間の未来か機械の未来かという問いに対して、全員が同じ側に立つのは当然だ」と述べています。

OpenAIのハードウェア部門を率いていたCaitlin Kalinowski氏が、同社と米国防総省との契約に抗議し辞任を表明しました。同氏は2024年11月にMeta出身のAR開発リーダーとしてOpenAIに参画していました。

Kalinowski氏は「司法の監視なき米国民への監視と、人間の承認なき自律型殺傷兵器は、十分な議論なく進められた一線だ」と述べています。さらに後続の投稿で、発表がガードレールの定義なく急がれたことがガバナンス上の懸念だと指摘しました。

この契約は、Anthropicと国防総省の交渉が決裂した直後に発表されたものです。Anthropicは大規模な国内監視や完全自律型兵器への技術利用を防ぐ安全策を求めて交渉しましたが、国防総省はAnthropicをサプライチェーンリスクに指定する措置を取りました。

OpenAIは声明で「国内監視の禁止と自律型兵器の禁止というレッドラインを明確にしつつ、責任ある国家安全保障利用の実行可能な道筋を作る」と説明しています。契約言語だけでなく技術的安全策にも依拠する多層的アプローチだと強調しました。

この騒動は消費者の反応にも大きく影響し、ChatGPTのアンインストール数が295%急増する一方、AnthropicのClaudeがApp Storeで1位に浮上しました。AI企業と国家安全保障の関係をめぐる倫理的議論が業界全体に広がっています。

Andrej Karpathy氏が提唱した「9の行進（March of Nines）」は、AIシステムの信頼性を90%から99%、99.9%へと高めるには、各段階で同等の工数が必要になるという法則です。エンタープライズ導入の成否を分ける重要な指標として注目されています。

エージェント型ワークフローでは、意図解析・検索・計画・ツール呼び出し・検証など複数ステップの失敗が複利的に蓄積します。各ステップの成功率が90%でも、10段階のワークフロー全体では成功率がわずか約35%に低下し、1日あたり約6.5回の障害が発生する計算になります。

信頼性向上の第一歩は、測定可能なSLO（サービスレベル目標）の定義です。ワークフロー完了率、ツール呼び出し成功率、スキーマ準拠率、ポリシー遵守率、p95レイテンシなどの指標を設定し、ティアごとにエラーバジェットを管理することが推奨されています。

記事では信頼性を高める9つのレバーが提示されています。明示的なワークフローグラフによる自律性の制約、全境界でのJSON Schema契約の強制、構文・意味・ビジネスルールの多層バリデーション、不確実性シグナルに基づくリスクルーティングなどが含まれます。

McKinseyの2025年調査によると、AIを利用する組織の51%が何らかの悪影響を経験し、約3分の1がAIの不正確さに起因する問題を報告しています。企業が後半の「9」を求める背景には、信頼性のギャップがそのままビジネスリスクに直結するという現実があります。

LangChainの共同創業者兼CEOであるハリソン・チェイス氏は、VentureBeatのポッドキャストで、AIモデルの性能向上だけではエージェントの本番運用に到達できないと主張しました。鍵を握るのは、モデルを包む「ハーネス」の進化です。

チェイス氏が提唱するハーネス工学とは、コンテキスト工学の拡張概念です。従来のハーネスがモデルのループ実行やツール呼び出しを制約していたのに対し、エージェント向けハーネスはLLM自身に文脈の制御権を委ね、より自律的な長時間タスク遂行を可能にします。

かつて最も急成長したGitHubプロジェクトだったAutoGPTを引き合いに、チェイス氏は現在のトップエージェントと同じアーキテクチャでありながらモデル性能不足で衰退した事例を紹介しました。モデルの進化により、ようやくハーネスの継続的改善が意味を持つ段階に入ったと述べています。

LangChainが開発したDeep Agentsは、計画機能・仮想ファイルシステム・コード実行・スキルとメモリ機能を備えた汎用ハーネスです。サブエージェントへのタスク委任とコンテキスト分離により、大規模な作業結果を圧縮してトークン効率を高める設計が特徴です。

チェイス氏は「エージェントが失敗するのは正しい文脈がないとき、成功するのは正しい文脈があるとき」と強調しました。適切な情報を適切なフォーマットで適切なタイミングに届けるコンテキスト工学こそが、実用的なAIエージェント構築の核心であると結論づけています。