Oracle Cloud Infrastructure erhält Cerebras-Beschleuniger

Oracle hat die Erweiterung der Plattform Oracle Cloud Infrastructure (OCI) angekündigt. Cloud-Kunden erhalten Zugang zu den Technologien von Cerebras für KI-Inferenz mit hoher Geschwindigkeit. Die Lösung richtet sich an Forschungslabore im Bereich künstliche Intelligenz, große Unternehmen und Entwickler interaktiver intelligenter Anwendungen.

Oracle Cloud Infrastructure erhält Cerebras-Beschleuniger
Foto: cerebras.ai

Die Zusammenarbeit umfasst die bestehende Infrastruktur von Oracle und deren Inferenzdienste, darunter dedizierte KI-Cluster (Dedicated AI Clusters) innerhalb von OCI Enterprise AI. Moderne KI-Anwendungen übernehmen immer häufiger komplexe mehrstufige Aufgaben, weshalb die Verarbeitungsgeschwindigkeit direkt die Qualität der Nutzererfahrung bestimmt.

Jeder zusätzliche Aufruf eines KI-Modells erhöht die Latenz und kann Denkketten sowie die Arbeit von KI-Agenten verlangsamen. Schnelle Inferenz hilft Entwicklern, Agenten und Anwendungen zu schaffen, die auch bei den anspruchsvollsten Aufgaben hohe Reaktionsgeschwindigkeit behalten.

Grundlage der Lösung ist der Prozessor Cerebras Wafer-Scale Engine, der speziell für schnelle Inferenz entwickelt wurde. Er vereint Rechenressourcen und Speicher auf einem einzigen Chip in der Größe eines ganzen Siliziumwafers. Dank dieser Architektur werden Datenbewegungen und der Informationsaustausch zwischen einzelnen Chips reduziert.

Dadurch gelingt eine schnelle Token-Generierung selbst in langen Denkketten und in mehrstufigen Prozessen, die KI-Agenten ausführen. Cerebras Inference wird 2027 in OCI verfügbar sein und den Nutzern der Oracle-Cloud ein neues Werkzeug für Anwendungen bieten, bei denen Geschwindigkeit entscheidend ist.

Zuvor haben AMD und Cerebras eine Plattform für KI-Inferenz mit extrem niedriger Latenz vorgestellt. Zudem plant der Entwickler riesiger Chips, bis Jahresende in Europa 200 MW an Rechenkapazität für KI in Betrieb zu nehmen. Allein in Finnland erhält das Unternehmen eine Anlage mit 165 MW.