詳細を読む
NVIDIAが主導する業界団体Open Secure AI Alliance（OSAA）は8月4日、ラスベガスで開幕した会議Black Hatに合わせ、AIエージェントの事故情報を業界で共有する指針SAFEの草案を公開しました。運営役のLinux FoundationがGitHubで意見公募を始めており、団体の発足からわずか1週間での提案です。
SAFEが定めるのは、AIに関する事故やヒヤリハットを秘匿性を保ったまま収集・分析する仕組みです。影響を受けた組織へ通知し、繰り返し起きる制御の失敗を特定したうえで、証拠に基づく運用推奨事項を公表することで、システム全体のリスクを下げることを狙います。草案の作成にはNVIDIAに加え、Cisco、CrowdStrike、Hugging Face、Red Hatが参加しています。
同時に加盟各社は、防御スタックの各層に自社技術を持ち寄っています。NVIDIAはLLMの脆弱性スキャナGarakやエージェント実行環境OpenShellを、AmazonはエージェントツールキットStrands Agentsと認可言語Cedarを提供します。Microsoftのレッドチーム向けPyRIT、Wizの脆弱性調査エンジンAtlas、Perplexityのエンドポイント防御Numbatなども並びます。
モデル層の動きも活発です。CrowdStrikeはNVIDIA Nemotron Nanoを微調整し、社内検証でFalcon LogScaleの調査クエリ生成において96%の精度を達成したと報告しました。Mistralはマルチモーダルの安全分類器ShieldstralをApache 2.0のオープンウェイトで公開し、Uberは1日20万件超のエージェントセッションを扱う検知基盤ADRの主要部分をオープンソース化しています。
一方で、Anthropic、OpenAI、Googleという主要なAI開発企業は加盟していません。OSAAの母体となったのは、オープンソースAIへの支援をホワイトハウスに求める公開書簡で、NVIDIAが旗振り役となり200社超が署名したものです。OpenAIとGoogleはこの書簡自体には署名しており、今後合流する余地は残っています。
背景には、中国製のオープンウェイトモデルへの規制強化をめぐる議論があります。業界団体が発足直後に具体的な成果物を示したことは、AIエージェントを導入する企業にとって、防御手段が特定ベンダーに閉じない形で整いつつあることを意味します。