Basetenなど3社、公開モデル安全基盤で提携

AI推論基盤を提供するBasetenは2026年9月17日、研究部門Base Labsを通じ、Hugging Face、Goodfire AIと公開ウェイトモデル向けの安全基盤標準を構築すると発表しました。モデルの訓練・提供段階に安全評価と監視を組み込み、透明で実行可能な管理策として公開する方針です。

提携の背景には、公開ウェイトモデルの安全策を解除する「abliteration」の広がりがあります。Hugging Faceには、こうした処理を施したモデルが6,000超掲載されています。

Base Labsは、公開モデルの訓練と監視の手法を開発し、公開します。安全機能を導入後に付け足すのではなく、訓練・提供の仕組みに組み込むことを標準として掲げています。

3社は技術的な連携方法や役割分担をまだ明らかにしていません。モデルの意思決定を説明する技術を手がけるGoodfire AIが、組み込み型の安全対策を担う可能性があると記事はみています。

Basetenは、この枠組みに参加する開発者を広く募っています。公開性を安全研究の成果を検証可能な管理策へ変える利点と位置づけ、安全で利用しやすい公開モデルのエコシステムを目指します。