Hugging Face幹部、AI公開基盤への攻撃警戒

Hugging Faceの政策責任者兼戦略担当上級副社長、アイリーン・ソライマン氏は、開かれたAI基盤が攻撃者を引き寄せ、コミュニティの参加を狭める恐れがあると警告しました。OpenCodeやFireworksでの侵害が相次ぐなか、同社は監視や認証情報の管理を強めています。安全性と、研究者や趣味の開発者が参加できる環境をどう両立するかが課題です。

10月にはAIコーディングツールのOpenCodeで、利用者の外部APIキーが狙われ、金銭的な被害が発生しました。また、AIインフラ企業Fireworksは、顧客のモデル重み、データセット、請求情報の一部に攻撃者がアクセスしたと公表し、調査中に一部のデータセット機能を停止しました。

ソライマン氏は、開放的な投稿環境に加え、評価用データやAPIキーなどの価値ある情報が集まることも、攻撃を招く要因だと説明します。対策として本人確認や投稿審査を厳しくすれば、独立研究者や趣味の開発者が参加しにくくなる可能性があります。

Hugging Faceは現時点で参加制限を広げず、監視ツールの強化や侵害防止に取り組んでいます。管理者権限を持つアクセストークンのローテーションを以前より頻繁にし、ネットワーク制御も厳格化しました。ただし、継続的な監視には費用がかかり、すべての基盤が負担できるとは限りません。

GitHubもnpmへのパッケージ公開で認証要件を強め、古いトークンを失効させ、新しいトークンの有効期間を制限しています。同社のザック・スタインドラー氏は、参加を根本から制限するより、不審な挙動の検知と封じ込めに投資する考えを示しました。セキュリティ強化を、開発者の参加縮小につなげない設計が問われています。