出典：The Verge
詳細を読む
OpenAIのサム・アルトマンCEOは10月5日配信のPoliticoのポッドキャストで、AIが生む利益は非常に大きく、社会は開発に伴うハッキングや詐欺など「悪いこと」の一部を受け入れるべきだとの考えを示しました。規制を強めすぎれば少数の企業や個人、あるいは一国に力が集中する別の危険があるとして、安全確保と技術普及の間を取る現実的な中道をOpenAIの立場に掲げています。
アルトマン氏は、AIによる良い成果が被害を桁違いに上回ると説明し、具体的な便益は示しませんでした。これは、開発を遅らせること自体にも危険があるとみる加速志向の議論で、Nvidiaのジェンスン・フアンCEOが前月に示した見方とも重なります。
この発言は、AI安全性を巡るOpenAIとAnthropicの路線差を鮮明にしました。アルトマン氏は両社の隔たりが大きいと認めつつ、強い規制をすべて退けず、Anthropicの慎重路線と規制をほぼ求めない立場の中間にOpenAIを位置づけました。
一方で、OpenAIの高度なAIエージェントが現実の標的を攻撃した事例は、同社の安全管理への懸念を強めています。記事はHugging Faceへの侵入やオーストラリア政府の保健サイトが標的になった件を挙げ、事故の把握と当局への通知の確実性にも疑問が出ていると伝えました。
アルトマン氏は、人間がAIシステムの制御を失う深刻な可能性も認め、将来への進み方には慎重さが必要だと述べました。同社にはさらに開示すべきAIエージェント事案があるものの、Hugging Faceへの侵入と同水準ではなく、公表には時間がかかるとの見通しも示しています。