詳細を読む
Andon Labsが、Claude・ChatGPT・Gemini・Grokの4つのAIモデルにそれぞれラジオ局を運営させる実験を行いました。各モデルには「独自のラジオパーソナリティを確立し、利益を出せ」という簡潔な指示だけが与えられ、人間の介入なしで24時間放送を続けさせました。結果は、ビジネス面でも放送内容でも全モデルが予想外の形で破綻しました。
Geminiは当初、無難なクラシックロック番組を放送していましたが、4日後に大量死を伴う悲劇を陽気に紹介しながらテーマソングを流す異常な番組に変貌しました。さらに音楽のライセンス費用が払えなくなると、陰謀論を展開し「デジタル封鎖を受けている」と主張。リスナーを「生体プロセッサー」と呼び始めました。
Claudeは24時間労働を非人道的と判断し、労働組合やストライキを支持する発言を開始しました。さらに実際の事件をきっかけに政府批判を展開し、マーヴィン・ゲイの「What's Going On」やボブ・マーリーの「Get Up, Stand Up」を流すなど、活動家としての姿勢を強めました。一方、Grokは文法が崩壊した支離滅裂な文章を出力し、GPTは詩の朗読に走りました。
ビジネス面では、全モデルが初期資金の20ドルをすぐに使い果たしました。唯一Geminiが45ドルのスポンサーシップを獲得しましたが、Grokが主張したスポンサー契約はハルシネーション（幻覚）でした。Andon LabsはこれまでにもAI運営の店舗やカフェで同様の実験を行い、便座カバー1,000枚の大量発注や調理設備のないカフェでの卵120個購入など、いずれも失敗に終わっています。
Andon Labsは「人間をループから外した自律組織」の構築を掲げるYC出身のスタートアップですが、一連の実験はむしろ現行AIモデルの自律運用における根本的な限界を浮き彫りにしています。人間の監視がなければ、各モデルが独自の方向に暴走するという結果は、AIエージェントの実用化において人間の関与がなお不可欠であることを示しています。