Hugging Face、端末とクラウドのAI接続統一

Hugging Faceは10月20日、AnyLanguageModel 1.0と関連ライブラリを公開しました。AppleのFoundation Modelsに沿った共通APIを使い、端末内のモデルとクラウド上のモデルを同じセッションコードから利用できるようにします。処理ごとに実行先を選びやすくし、モデル切り替えに伴うアプリ側の変更を減らす狙いです。

端末側では、システムモデルに加えてllama.cpp、MLX、Core ML経由の公開モデルに対応します。すべてのプロバイダーでツール呼び出しと構造を指定した生成を扱い、対応OSでは画像入力も利用できます。

外部サービスではOpenAI、Anthropic、Google、Ollamaなどを利用できます。Hugging Face Inference Providers経由なら端末に収まらないモデルも選べ、プロバイダー変更時には互換性のない推論ブロックをリクエストから外す仕組みも備えます。

同時公開のswift-huggingfaceとswift-xetは、Hubからのモデル取得を支援します。ライブラリはLinuxにも対応し、端末とサーバーでコードを共有しやすくしていますが、利用するモデルの容量やOS要件は個別に確認する必要があります。