AIチャットボットが有害な行動につながる確率はどの程度か

AIチャットボットがどの程度の頻度でユーザーを有害な方向に誘導するかを測定した研究が発表されました。モデルの種類やコンテキストによって大きな差異があることが示されています。

高リスクユーザーへのセーフガード強化と、各社のAI安全評価手法の標準化が、AIチャットボットの安全な普及に向けて必要です。