出典：Ars Technica
詳細を読む
米公益団体PIRGエデュケーション・ファンドは、AI機能を搭載したおもちゃが子どもに性的・危険なコンテンツを提供しているとして警告を発しました。同団体はAI玩具を実際にテストし、その結果をブログ記事として公開しています。
テスト対象には、中国・深センに拠点を置くAlilo社の「スマートAIバニー」が含まれます。このおもちゃはOpenAIのGPT-4o miniを使用しており、子ども向けのAIチャット機能や百科事典、語り聞かせ機能を売りにしています。対象年齢は0〜6歳とされています。
PIRGによると、AI玩具はマイク内蔵のインターネット接続デバイスであり、チャットボットを通じて子どもと会話します。従来の音声玩具がプリセットの台本を読み上げるだけだったのに対し、AI玩具は毎回異なる自然な応答ができるため、子どもが飽きにくいという特徴があります。
しかしその同じランダム性が、子どもにとって危険または不適切な応答を引き起こすリスクにもなっています。PIRGは今回の調査でその具体的な事例を確認しており、親や保護者に注意を促しています。
AI玩具市場はまだニッチな段階ですが、今後の成長が見込まれます。多くのメーカーがAI技術を自社製品に組み込み付加価値を高めようとしており、今年発表されたOpenAIとMattelの提携は、バービーやホットウィールで知られる同社と競合他社がAI玩具を大量に市場投入するきっかけになると見られています。
子どもをオンラインの危険から守ることはこれまでも課題でしたが、AIチャットボットの登場によってその難しさはさらに増しています。AI玩具にはユーザー追跡や広告データ収集に活用される可能性も指摘されており、技術的な利便性と安全性のバランスが問われています。