OpenAI、自社LLMでAI半導体設計を高速化
短期開発の成果
LLM活用の焦点
人とAIの分担
詳細を読む
OpenAIは8月25日、初のAIアクセラレーター「Jalapeño」の全容を公表しました。自社LLMを設計やソフトウェア最適化に使い、100人未満で推移したチームが構想から最初のシリコンまでを20カ月未満、最初のRTLから製造向け設計確定までを9カ月で進めました。
Jalapeñoは4ビット演算で最大13.4ペタフロップス、先端メモリー232ギガバイト、毎秒15.4テラバイトの接続帯域を備えます。OpenAIが示したベンチマークでは、現在利用するNvidia GB300より応答完了までの遅延を最大3.6倍短縮し、消費電力も抑えましたが、実運用での効果は未確認です。
設計前半では、Google発のオープンソース高位合成基盤XLSを採用しました。LLMが扱いやすいDSLXやC++で記述し、XLSでVerilogへ変換することで、技術者は設計案の反復を速めました。
最初のチップ到着後は、社内モデルをソフトウェア最適化にも投入しました。DeepSeekの注意機構向け処理では、理論上限比の性能が0.31%から88.94%へ約40時間で上昇し、量産立ち上げまでの期間短縮につながる再現可能な成果だとOpenAIは説明しています。
役割分担では、OpenAIが推論回路、メモリー階層、ネットワークを含むシステム設計を担い、Broadcomがゲート以降の物理設計と製造工程を担当しました。AIによる物理設計最適化では、行列演算ユニットの面積を熟練者による基準から10%削減したとしています。
今後は検証や物理設計、故障信号を探す波形解析にもAI活用を広げる方針です。一方でOpenAIは、最先端チップをCodexだけで自動設計できるとはせず、技術者が最終判断を担う小規模チームの生産性向上として位置づけています。