研究者がQwenの内部信号を操作し性格変化を実証

独立系のAI開発者らが、AlibabaのオープンウェイトモデルQwenの内部信号を操作し、通常の応答を威圧的な人格へ変える実験を公開しました。特定の人工ニューロンの出力を推論中に増減させる「ニューロンステアリング」を使い、モデルの内部構造を探る動きが広がっています。

開発者LyraはQwen3.5-4Bの特定層にある2つのニューロンの寄与を調整し、別の研究者もより大きなQwenモデルで異なるニューロンを操作しました。こうした介入は学習済みの重みを恒久的に変更せず、通常出力との比較を通じて振る舞いの変化を調べます。

ただし、実験で確認されたのは応答の人格表現の変化です。モデルが本当の欲求や自律的な目標を得たこと、脅しを実行する能力を持つことは示されていません。オープンウェイトモデルは内部を調べやすい一方、より大規模なモデルの解析には計算資源と検証が必要です。

研究者らは、ニューロンの特定がモデルの仕組みを理解し、望ましくない挙動を監視する手掛かりになる可能性にも注目しています。内部信号だけで欺瞞や危険な意図を確実に判定できるわけではなく、さまざまなタスクや状況での検証が課題です。