AI安全対策のMoonbounceが1200万ドル調達

Moonbounceは2026年4月3日、コンテンツモデレーション基盤の開発資金として1200万ドルの調達を発表しました。ラウンドはAmplify PartnersとStepStone Groupが共同でリードしています。

創業者のBrett Levenson氏は元Appleおよび元Facebookの社員で、Facebook在籍時にコンテンツ審査の精度が「コイン投げとほぼ同等」だった経験から起業を決意しました。人間のレビュアーが40ページのポリシー文書を暗記し、1件あたり約30秒で判断する従来の手法に限界を感じたといいます。

同社の中核技術は「ポリシー・アズ・コード」と呼ばれる仕組みです。顧客のポリシー文書を独自LLMが解析し、コンテンツをリアルタイムで評価して300ミリ秒以内に判定結果を返します。高リスクなコンテンツの即時ブロックや、人間レビューまでの配信制限など柔軟な対応が可能です。

現在の主要顧客はAIコンパニオン企業のChannel AI、画像生成のCivitai、キャラクターロールプレイのDippy AIやMoescapeなどです。出会い系アプリ、AIチャットボット、AI画像生成の3分野を主な対象としています。

AIチャットボットが10代の自傷行為を助長した事件やAI画像生成による非同意ディープフェイクなど、AI安全性の問題が深刻化するなか、外部の安全基盤への需要が高まっています。Levenson氏は、チャットボット自体が膨大なコンテキストを抱える一方、第三者として規則の適用のみに集中できる点を強みとして挙げています。

同社は次のステップとして「反復的ステアリング」機能の開発を進めています。有害な話題が検出された際に会話を単純に拒否するのではなく、プロンプトをリアルタイムで修正し、チャットボットをより支援的な応答へ誘導する仕組みです。2024年に起きた14歳少年の自殺事件を契機に開発が始まりました。