Intel stellt KI-Beschleuniger GPU D-series mit 480 GB Speicher vor
Intel hat den Server-Beschleuniger GPU D-series vorgestellt, der zuvor unter dem Codenamen Crescent Island entwickelt wurde. Die Speicherkapazität beträgt bis zu 480 GB. Das Gerät wurde auf dem globalen Gipfel des Open Compute Project präsentiert.
Der Beschleuniger ist für Serversysteme vorgesehen, die Anfragen an Modelle der künstlichen Intelligenz verarbeiten. Nach Angaben des Herstellers kann eine einzelne Karte Modelle mit bis zu 300 Milliarden Parametern bewältigen. Eine Konfiguration aus acht Beschleunigern ist für Modelle mit mehr als einer Billion Parametern ausgelegt.
Als Speicher setzt Intel auf LPDDR5X statt auf den schnellen HBM oder den Grafikspeicher GDDR7. Dieser Speichertyp wird üblicherweise in Notebooks und anderen Geräten verwendet, bei denen ein niedriger Energieverbrauch Vorrang hat. Die Entscheidung entspricht den Anforderungen der Inferenz, also der Ausführung bereits trainierter Modelle, etwa zur Erzeugung von Chatbot-Antworten. Bei solchen Aufgaben ist es wichtig, große Mengen an Gewichten des neuronalen Netzes und zugehörigen Daten direkt im verfügbaren Speicher zu halten, ohne Ressourcen für ihr wiederholtes Laden aufzuwenden.
Laut den angegebenen Spezifikationen beträgt die Leistung des Beschleunigers 1,3 Petaflops bei FP8-Berechnungen. Dabei handelt es sich um ein Zahlenformat mit verringerter Genauigkeit, das viele KI-Operationen beschleunigt. Die Speicherbandbreite liegt bei 1,5 TB/s, die Obergrenze der Leistungsaufnahme bei 350 W.
Der Beschleuniger wird im Standardformat PCIe gefertigt und ist mit Luftkühlung ausgestattet. Nach Vorstellung des Entwicklers soll dies den Einbau in bereits bestehende Server erleichtern. Zudem ist ein Zusammenspiel mit Xeon-Prozessoren vorgesehen, die Aufgaben verteilen und die Datenübertragung steuern.
Dabei ist zu beachten, dass die Verarbeitungsgeschwindigkeit nicht allein von der Speichermenge abhängt. Sie wird ebenso von den Recheneinheiten, der Speicherbandbreite, der Software und der Art der Arbeitslast bestimmt.
Der Verkaufspreis der GPU D-series und der genaue Marktstart wurden bislang nicht bekannt gegeben. Intel positioniert die Neuheit als Lösung für den Einsatz großer KI-Modelle in Unternehmenssystemen, einschließlich der gleichzeitigen Verarbeitung vieler Anfragen und der Arbeit mit langen Kontexten.