自動評価への過信
承認なし導入が加速
詳細を読む
調査会社VentureBeat Intelligenceが2026年7月、従業員100人以上の企業108社を対象に実施した調査で、AI機能が社内テストを通過した後に顧客に見える不具合を起こした企業ほど、人の承認なしでAIエージェントを本番投入する動きを加速させていることが判明しました。自動評価への信頼度は高まる一方、実際の失敗率はほぼ横ばいのままです。
7月の調査では、社内テストに合格したAI機能が後に顧客向けの問題を引き起こしたと回答した企業は49%に達し、6月の50%からほぼ変わりませんでした。うち24%は同様の問題が複数回発生したと答えています。自動評価を完全に信頼すると答えた割合は5%から13%へと上昇しましたが、テストと実際の結果のズレを懸念する声は29%から19%に減少しました。
特に目を引くのは、テスト合格後にトラブルを経験した企業の行動です。この層では85%が低リスク領域で人の承認を経ずにAIエージェントへ変更や実行を任せる方針を進めており、問題を経験していない企業の61%を大きく上回りました。自動化の全面拒否を選んだのは被害企業でわずか11%にとどまり、非被害企業の24%と対照的です。
無承認導入を一部で認めている企業のうち、本番環境での出力の意味的な正しさを自動監視しているのはわずか28%にとどまりました。多くは稼働状況や応答速度といったゲートウェイ指標やトレースデータの監視に偏っており、もっともらしく見えて誤った回答は見逃されやすい状態です。異常検知を手がけるRaindrop.aiのBen Hylak最高技術責任者は、こうした状況について「評価の大幅な衰退が起きている」とVentureBeatに語っています。
この矛盾を埋める動きとして、企業は人的レビューへの投資を強化しています。今後投資を最も増やす分野として人的レビュー体制を挙げた割合は31%で首位となり、特に被害企業では38%と非被害企業の24%を上回りました。人の承認は自動化に置き換えつつ、その分どこかで人によるチェックを厚くするという構図が浮かび上がります。
評価ツール市場も変化しており、主要プラットフォームではOpenAI純正の評価機能が18%で首位、DeepEvalが17%、Braintrustは6月の8%から15%へと急伸しました。購買判断では導入のしやすさを重視する割合が12ポイント増の39%となり、コストを上回っています。合格の実績は本番での信頼性を保証するものではなく、監視はテスト通過後も続く必要があるというのが、今回の調査が示す教訓です。