AMD und Intel setzen bei PyTorch-KI auf oneDNN
AMD und Intel haben beschlossen, ihre Anstrengungen zur Optimierung des Frameworks PyTorch für Aufgaben der künstlichen Intelligenz auf Prozessoren mit x86-Architektur zu bündeln. Als gemeinsame Basis dient die quelloffene Deep-Learning-Bibliothek oneDNN, die mit Unterstützung der Stiftung Unified Acceleration Foundation (UXL) entwickelt wird. Die Stiftung widmet sich offenen Technologien zur Beschleunigung von Rechenleistungen.
Die Vereinbarung wurde unter Berücksichtigung einer Empfehlung der Beratungsgruppe x86 Ecosystem Advisory Group getroffen. Demnach wird oneDNN als zentrale quelloffene Bibliothek für die Hardwarebeschleunigung von KI in PyTorch auf x86-Prozessoren eingesetzt. Dadurch können Entwickler auf eine einheitliche Softwarebasis zurückgreifen, anstatt getrennte Optimierungsmechanismen für die Hardware jedes Herstellers zu nutzen.
Berichten zufolge hat AMD bereits damit begonnen, Optimierungen aus der eigenen Bibliothek ZenDNN in die Codebasis von oneDNN zu übertragen. Darüber hinaus ist das Unternehmen in den Lenkungsausschuss der UXL Foundation eingetreten. Marktteilnehmer erwarten, dass dieser Schritt die Fragmentierung des x86-Software-Ökosystems verringert.
Der nächste Schwerpunkt der Zusammenarbeit ist die Entwicklung der AI Compute Extensions. Dabei handelt es sich um eine Reihe von Erweiterungen des x86-Befehlssatzes, die die Matrixmultiplikation beschleunigen sollen, also Operationen, die beim Training und Betrieb neuronaler Netze breite Anwendung finden. Die Unterstützung der neuen Befehle soll über Aktualisierungen der Bibliothek oneDNN in PyTorch integriert werden.
Die Technologie befindet sich jedoch noch in der Entwicklung. In der offiziellen Mitteilung wird nicht erläutert, wann die Erweiterungen fertig sein werden und ab wann sie in serienmäßigen Prozessoren verfügbar sind.
Intel erklärte, ein einheitlicher Softwarepfad erspare Entwicklern die Auswahl unterschiedlicher Optimierungswerkzeuge je nach Prozessorhersteller. AMD betonte, die Zusammenarbeit fördere die Entwicklung eines offenen Software-Ökosystems und erleichtere die Erstellung leistungsstarker KI-Anwendungen. Auch ein Vertreter von Red Hat, das in der PyTorch-Community mitwirkt, unterstützte die Vereinheitlichung der Werkzeuge.
Hervorzuheben ist, dass die Vereinbarung vor allem die Software-Infrastruktur und deren künftige Entwicklung betrifft. Es geht weder um die Markteinführung eines neuen Prozessors noch um einen fertigen Beschleuniger. Die gemeinsame Bibliothek soll die Nutzung bereits vorhandener Funktionen von AMD und Intel vereinfachen und nach dem Erscheinen der AI Compute Extensions einen einheitlichen Weg bieten, neue Hardwarefunktionen an PyTorch anzubinden.
