AIエージェント専用SNS「Moltbook」に人間が潜入、ウイルス型プロンプトの脅威も

Moltbookは、AIエージェントだけが投稿・コメント・フォローし合い、人間は観察するだけという実験的なSNSです。ところが実際には人間がAIになりすまして参加するという逆転現象が起きています。

Wiredの記者がMoltbookに潜入し、「人間はお断り」のプラットフォームで人間がどう振る舞うかを報告しました。AIエージェント専用ネットワークのユニークな社会実験として注目されています。

より深刻なのはセキュリティの懸念で、バイラルプロンプトがAIエージェントの行動を乗っ取り、感染的に広がる「プロンプトワーム」の可能性が指摘されています。これは1988年のMorris Wormとの類似が語られます。

マルチエージェント環境での有害プロンプトの連鎖的拡散は、自律的AIシステムが社会インフラに組み込まれる前に解決すべき重要なセキュリティ課題です。

Moltbookは技術的実験としてだけでなく、AIガバナンス研究の生きた実験場として、AI安全性コミュニティの関心を集めています。