Gli acceleratori Cerebras arrivano su Oracle Cloud
Oracle ha annunciato l’ampliamento delle capacità della piattaforma Oracle Cloud Infrastructure (OCI). I clienti del cloud avranno accesso alle tecnologie Cerebras per l’inferenza IA ad alta velocità. La soluzione è destinata a laboratori di ricerca sull’intelligenza artificiale, grandi aziende e sviluppatori di applicazioni intelligenti interattive.
La collaborazione riguarda l’infrastruttura attuale di Oracle e i suoi servizi di inferenza, compresi i cluster IA dedicati (Dedicated AI Clusters) all’interno di OCI Enterprise AI. Le applicazioni di IA moderne eseguono sempre più spesso attività complesse in più fasi, quindi la velocità di elaborazione delle richieste incide direttamente sulla qualità dell’esperienza dell’utente.
Ogni chiamata aggiuntiva a un modello di IA aumenta la latenza e può rallentare le catene di ragionamento e il lavoro degli agenti IA. L’inferenza rapida aiuta gli sviluppatori a creare agenti e applicazioni che mantengono tempi di risposta elevati anche nei compiti più impegnativi.
Alla base della soluzione c’è il processore Cerebras Wafer-Scale Engine, progettato appositamente per l’inferenza ad alta velocità. Riunisce risorse di calcolo e memoria su un unico chip grande quanto un intero wafer di silicio. Grazie a questa architettura si riducono gli spostamenti di dati e lo scambio di informazioni tra chip separati.
Ciò garantisce una rapida generazione di token anche in lunghe catene di ragionamento e nei processi in più fasi eseguiti dagli agenti IA. Cerebras Inference sarà disponibile su OCI nel 2027 e offrirà agli utenti del cloud Oracle un nuovo strumento per le applicazioni in cui la velocità è determinante.
In precedenza AMD e Cerebras hanno presentato una piattaforma per l’inferenza IA a latenza ultrabassa. Inoltre lo sviluppatore di chip giganti prevede di attivare in Europa entro fine anno 200 MW di capacità di calcolo per l’IA. Solo in Finlandia l’azienda otterrà una struttura da 165 MW.