詳細を読む
Anthropic社の最新研究で、大規模言語モデル（LLM）が自身の思考プロセスを正確に説明する能力に乏しいことが明らかになりました。一方、OpenAIはChatGPTの利用規約に関して、法律や医療アドバイスの提供を新たに禁止したという噂を否定。AIの能力には限界があり、その信頼性を正しく見極めることが、ビジネス活用の鍵となりそうです。
LLMに「なぜその結論に至ったのか」と尋ねても、返ってくるのはもっともらしい作り話かもしれません。Anthropic社の研究によると、LLMは自身の内部プロセスを説明する際に、訓練データに基づいたもっともらしい説明を捏造する傾向があることが指摘されています。AIの回答の根拠を鵜呑みにするのは危険と言えるでしょう。
研究チームは「コンセプト注入」という独自の手法を用いました。これは特定の概念（例えば「大文字」）に対応する神経活動のパターンを特定し、それを人工的にモデルへ注入するものです。この操作によって、AIが自身の内部状態の変化を認識できるか、その「内省的認識」の精度を測定しました。
実験の結果、LLMは注入された思考を時折検出できたものの、その能力は「非常に信頼性が低い」と結論づけられました。現状のAIモデルにおいて、自己の内部動作を正確に説明できない「内省の失敗」が常態であるという事実は、AIの透明性を考える上で重要な示唆を与えます。
一方で、AIの社会実装におけるルールも注目されています。OpenAIは、ChatGPTが法律や医療のアドバイス提供を禁止したとのSNS上の噂を否定しました。同社の利用規約では、以前から資格を持つ専門家のレビューなしでの専門的助言を禁じており、今回のポリシー更新は実質的な変更ではないと説明しています。
OpenAIのヘルスAI責任者は「ChatGPTは専門家のアドバイスの代替ではない」と明言しています。AIはあくまで法律や健康に関する情報を理解するための優れたリソースであり、最終的な判断は資格を持つ専門家が行うべきだというスタンスです。この境界線を明確にすることが、安全なAI利用の前提となります。
AIの「思考」の不透明性と、社会実装における利用規約。この二つの側面は、AIの能力の限界を示唆しています。経営者やリーダーは、AIを万能ツールとして過信せず、その特性と限界を深く理解した上で、どの業務に、どのような監視体制で導入するかを慎重に判断する必要があるでしょう。