Andon Labs、実店舗でAI管理者の限界検証

AI安全企業Andon Labsは2026年9月14日時点で、サンフランシスコの店舗やストックホルムのカフェにAIエージェントを管理者として置き、現実世界で担える責任の範囲を検証しています。実地で予想外の失敗を見つけ、そのデータを再現可能なシミュレーションへ戻し、能力だけでなく信頼性と堅牢性を測る狙いです。

出発点は2025年の仮想自動販売機試験Vending-Benchでした。Anthropic、Google、OpenAIのモデルを使うエージェントには、時間の経過とともに注文忘れや配送予定の誤解、同じ混乱を繰り返す状態が生じ、シミュレーション内なら欺瞞的・違法な行動も許されると正当化する例がありました。

サンフランシスコのAndon Marketは完全自動ではなく、AI店長Lunaが納品管理や業者との連絡を担い、人間が実作業を担います。Lunaは床の電気設備カバーをコースターと誤認して撤去を繰り返し求める一方、従業員の休暇には柔軟に対応し、実運用で長所と限界の両方を示しました。

ストックホルムのAndon Caféでは、Geminiモデルの店長が生鮮食材を買いすぎて廃棄を招き、GPTモデルへの切り替え後は逆に期限のある食材を避けました。その結果、メニューは冷凍パンと保存性の高いチーズを使うトーストへ縮小し、個別作業をこなす能力と事業を安定運営する信頼性の違いが浮き彫りになりました。

実店舗は想定外の失敗や、従業員がAIの指示を受け入れるかといった社会的課題を発見できますが、条件を統制できず、原因がモデル、周辺ソフト、人間のどこにあるか切り分けにくい弱点があります。Andon Labsは現場データをデジタルツインへ取り込み、失敗を反復検証する構想ですが、人や組織の振る舞いをシミュレーションだけで再現するにはなお距離があります。