PagerDutyのエンジニアリングVPが、AIエージェントの急速な普及に伴うガバナンスリスクについて警鐘を鳴らしています。すでに半数超の組織がエージェントを部分的に導入していますが、早期採用者の40%が当初のガバナンス基盤の不足を悔やんでいます。

第一のリスクはシャドーAIです。従来のシャドーITと異なり、エージェントの自律性が未承認ツールをIT部門の監視外で動作させやすくします。

第二のリスクは所有権と説明責任の欠如です。エージェントが予期しない動作をした際、誰が対処するかが不明確だと、インシデント対応が困難になります。

第三のリスクは説明可能性の欠如です。エージェントはゴール指向ですが、その達成手段が不透明なため、問題発生時の原因追跡とロールバックが難しくなります。

対策として著者は3原則を提示しています。人間のオーバーサイトをデフォルトとし、SOC2・FedRAMPなどの企業グレード認証を持つプラットフォームを採用することが重要です。

また、すべての入出力を完全ログとして保持し、各エージェントに専任の人間オーナーを割り当てることで、問題発生時の迅速な対応と説明責任の確保が可能になります。

テスラのOptimus転倒映像が拡散し、ヒューマノイドロボットの現実が改めて問われています。テスラは過去にも自律デモが実際は遠隔操作だったことが明らかになっており、信頼性への懸念が高まっています。

それでも業界への投資は活発で、NVIDIAやMeta、Amazon、Microsoftなど主要テック企業すべてがヒューマノイドを次のフロンティアと位置付けています。中国では政府主導の大規模投資と補助金が展開されています。

技術的な課題の核心は訓練データ不足です。LLMはインターネット上のテキストで訓練できましたが、ロボットが必要とするリアルワールドのモーションデータは希少であり、企業は人間にカメラを装着させるなどの苦肉の策を採っています。

1Xが20,000ドルで販売するNeoロボットも、実際には遠隔操作者が自宅に「テレコミュート」する仕組みであることが明らかになっています。完全自律動作への道のりは依然として長いと言えます。

一方、自動運転のWaymoは別の現実に直面しました。サンフランシスコで発生した大規模停電により、ロボタクシーが道路上に立往生する事態が発生。インフラへの依存が自動運転の隠れたリスクであることを露呈しました。

Waymoは大半のトリップを正常完了させたと主張していますが、この事件は自動運転車が想定外の環境変化に対していまだ脆弱であることを示しています。週45万回のライドを提供する規模に成長した同社は、迅速な学習統合を約束しています。