インテル、480GBメモリ搭載のAIアクセラレーターGPU D-seriesを発表

インテルは、これまでコードネームCrescent Islandで開発されてきたサーバー向けアクセラレーターGPU D-seriesを発表しました。メモリ容量は最大480GBに達します。この製品は、Open Compute Projectのグローバルサミットで披露されました。

本製品は、人工知能モデルへのリクエストを処理するサーバーシステム向けに設計されています。メーカーによると、1枚のカードで最大3000億パラメーターのモデルに対応できます。8基のアクセラレーターを組み合わせた構成は、1兆を超えるパラメーターを持つモデルを想定しています。

メモリには、高速なHBMやグラフィックス用のGDDR7ではなく、LPDDR5Xが採用されました。このタイプのメモリは、省電力が重視されるノートパソコンなどのデバイスで一般的に使われています。この選択は、学習済みモデルの実行、たとえばチャットボットの回答生成といった推論用途に適したものです。こうした処理では、ニューラルネットワークの大量の重みや関連データを、繰り返し読み込むためにリソースを費やすことなく、利用可能なメモリ上に保持することが重要です。

公表された仕様によると、アクセラレーターの性能はFP8演算で1.3ペタフロップスです。FP8は精度を下げた数値形式で、多くのAI演算を高速化します。メモリ帯域幅は1.5TB/s、消費電力の上限は350Wに設定されています。

本製品は標準的なPCIeフォームファクターで、空冷方式を採用しています。開発元は、これにより既存のサーバーへの導入が容易になるとしています。さらに、Xeonプロセッサーとの連携も想定されており、タスクの割り振りやデータ転送の管理を担当します。

なお、リクエストの処理速度はメモリ容量だけで決まるわけではありません。演算ユニット、メモリ帯域幅、ソフトウェア、負荷の性質にも左右されます。

GPU D-seriesの小売価格と正確な発売日は、現時点では明らかにされていません。インテルは本製品を、大規模AIモデルを企業システムに導入するためのソリューションと位置づけており、多数のリクエストの同時処理や長いコンテキストの扱いも対象としています。