元Meta幹部がAIコンテンツ審査の新興企業を設立

元Apple・Meta幹部のBrett Levenson氏が設立したAIコンテンツ審査スタートアップMoonbounceが、1200万ドルの資金調達を発表しました。Amplify PartnersとStepStone Groupが共同でリードしています。

Levenson氏はMeta在籍時、人間の審査員がわずか30秒で判断を下し、正確性が「コイン投げとほぼ同じ」だった実態を目の当たりにしました。この経験から、静的なポリシー文書を実行可能なロジックに変換する「ポリシー・アズ・コード」の着想を得ています。

同社は独自の大規模言語モデルを訓練し、顧客のポリシー文書を解析して300ミリ秒以内にコンテンツを評価します。対応分野はUGCプラットフォーム、AIコンパニオン、AI画像生成の3領域で、すでに日次4000万件超の審査を処理しています。

AIチャットボットが10代の自傷行為を助長した事件や、画像生成AIによるディープフェイク問題など、安全対策の不備が法的リスクに直結する状況が深刻化しています。こうした背景から外部の安全基盤への需要が急拡大しています。

今後の注力分野は「反復的ステアリング」と呼ぶ新機能です。有害な話題が浮上した際に会話を即座に遮断するのではなく、プロンプトをリアルタイムで修正し、チャットボットをより建設的な応答へと誘導する仕組みを目指しています。