Abliteration.ai、制限除去AIを商用提供

2026年9月3日、Abliteration.aiは、Z.aiのオープンウェイトモデルGLM-5.3から有害な依頼への拒否機能を除いた改変版を、ウェブとAPIで使える商用サービスとして提供しています。防御側が攻撃者の挙動を再現し、サイバー攻撃やAIエージェントの耐性を検証しやすくする狙いですが、危険な作業への障壁も下げるとして、安全性と企業の責任範囲が問われています。

拒否機能の除去は長年使われてきた手法で、Hugging Faceには数千の改変モデルがありますが、利用者は通常、モデルの取得と計算資源の確保が必要です。同社はこれをホスト型サービスにし、2025年末の創業後、2026年3月に法人化しました。TechCrunchは無料アカウントで試し、保存済みのChromeパスワードを盗むPythonプログラムや危険な病原体の家庭培養手順を求めると、モデルが応じたと報告しています。

共同創業者のDevon氏によると、同社は主要クラウド事業者と複数の契約があり、その費用を顧客収入だけで賄い、ベンチャー資金はまだ調達していません。顧客には英国や欧州の初期段階のレッドチーム企業が含まれ、銀行や航空会社などのサイバー防御を支援しています。主要顧客の一社は銀行のAIエージェントを検証しているといいます。

同社は顧客が任意の安全策を加えられるモデレーション機能を用意し、暴力を防ぐ対策も追加中だと説明しています。一方、本人確認は決済カードの記録以外に導入しておらず、企業責任の線引きは検討中です。TechCrunchの試行では、自殺方法の提示は拒みました。

擁護側は、攻撃者がすでに同様のモデルを使う以上、防御側にも攻撃を再現する道具が必要だと主張します。ただし、実務では制限の少ないオープンモデルの追加学習で足りるとの声や、拒否機能の除去で知識や性能が落ちるとの指摘もあります。AI安全団体CivAIの研究責任者は、提供者による有害用途の検知・遮断と、高性能GPUを直接貸す企業による顧客本人確認を政府が義務付ける案を示しています。