Intel apresenta o acelerador de IA GPU D-series com 480 GB de memória

A Intel anunciou o acelerador para servidores GPU D-series, desenvolvido anteriormente com o codinome Crescent Island. A capacidade de sua memória chega a 480 GB. O dispositivo foi apresentado na cúpula global do Open Compute Project.

O acelerador é destinado a sistemas de servidores que processam solicitações a modelos de inteligência artificial. De acordo com o fabricante, uma única placa é capaz de trabalhar com modelos de até 300 bilhões de parâmetros. Uma configuração com oito aceleradores foi concebida para modelos com mais de um trilhão de parâmetros.

Como memória, a Intel optou pela LPDDR5X, em vez da HBM de alta velocidade ou da memória gráfica GDDR7. Esse tipo de memória costuma ser usado em notebooks e em outros dispositivos nos quais a prioridade é o baixo consumo de energia. A escolha atende às demandas da inferência, ou seja, da execução de modelos já treinados, por exemplo para gerar respostas de chatbots. Nessas tarefas, é importante manter grandes volumes de pesos da rede neural e de dados associados diretamente na memória disponível, sem gastar recursos para recarregá-los continuamente.

Segundo as características declaradas, o desempenho do acelerador é de 1,3 petaflop em cálculos FP8, um formato numérico de precisão reduzida que acelera muitas operações de IA. A largura de banda da memória é de 1,5 TB/s, e o limite de consumo de energia foi fixado em 350 W.

O acelerador utiliza o formato padrão PCIe e conta com refrigeração a ar. Na visão do desenvolvedor, isso deve facilitar sua instalação em servidores já existentes. Além disso, está prevista a atuação conjunta com processadores Xeon, que distribuirão as tarefas e gerenciarão a transferência de dados.

É preciso considerar que a velocidade de processamento das solicitações não depende apenas da quantidade de memória. Ela também depende das unidades de computação, da largura de banda da memória, do software e do tipo de carga de trabalho.

O preço de varejo da GPU D-series e a data exata de chegada ao mercado ainda não foram divulgados. A Intel posiciona a novidade como uma solução para a implantação de grandes modelos de IA em sistemas corporativos, incluindo o processamento simultâneo de muitas solicitações e o trabalho com contextos longos.