Google、機密推論と大規模AI向け新TPU
出典:TechCrunch
詳細を読む
Googleは11月10日、AI向け自社半導体の第8世代に、機密性を重視した「TPU 8tx」と大規模な推論向けの「TPU 8i Max」を加えると発表しました。クラウド事業で他社製チップへの依存を抑えながら、機密データを扱う学習や、より多くの情報を使うAI処理に対応する狙いです。
TPU 8txはAMDと共同設計し、TPU 8tを基に開発しました。Googleによると、ハードウェア層にセキュリティーを組み込み、稼働中も機密データとモデルの重みを保護・分離します。
同チップは推論用の専用ネットワークも備え、推論と学習を並行して実行できます。企業が独自データを端末間で移動させずに小型モデルを調整・学習する用途を想定しています。
TPU 8i Maxは、4月に発表した推論向けTPU 8iを2基分まとめた構成です。メモリー容量、処理能力、帯域幅をそれぞれ倍増し、問い合わせへの応答でAIモデルが扱える情報量を広げます。
Googleの新製品は、MicrosoftやAmazon、OpenAI、Anthropicなども独自のAI半導体や関連ソフトを開発する流れの中で発表されました。各社はAI計算で存在感を持つNvidiaへの依存を下げようとしており、専用チップの選択肢が広がっています。