인텔, 480GB 메모리 탑재 AI 가속기 GPU D-series 공개

인텔이 이전에 코드명 Crescent Island로 개발해 온 서버용 가속기 GPU D-series를 공개했다. 메모리 용량은 최대 480GB에 이른다. 이 제품은 Open Compute Project 글로벌 서밋에서 선보였다.

이 가속기는 인공지능 모델에 대한 요청을 처리하는 서버 시스템을 겨냥해 설계되었다. 제조사에 따르면 카드 한 장으로 최대 3000억 개의 파라미터를 가진 모델을 처리할 수 있다. 가속기 8개로 구성한 시스템은 1조 개가 넘는 파라미터의 모델을 대상으로 한다.

메모리로는 고속 HBM이나 그래픽용 GDDR7 대신 LPDDR5X를 채택했다. 이 유형의 메모리는 저전력이 중요한 노트북 등의 기기에 널리 쓰인다. 이러한 선택은 이미 학습된 모델을 실행하는 추론 작업, 예를 들어 챗봇의 답변 생성에 적합하다. 이런 작업에서는 신경망의 방대한 가중치와 관련 데이터를 반복해서 불러오는 데 자원을 쓰지 않고, 사용 가능한 메모리에 그대로 보관하는 것이 중요하다.

공개된 사양에 따르면 이 가속기의 성능은 FP8 연산 기준 1.3페타플롭스이다. FP8은 정밀도를 낮춘 숫자 형식으로 여러 AI 연산을 가속한다. 메모리 대역폭은 1.5TB/s이며 소비 전력 상한은 350W로 정해졌다.

이 가속기는 표준 PCIe 폼팩터로 제작되었고 공랭식 냉각을 갖추었다. 개발사는 이를 통해 기존 서버에 쉽게 설치할 수 있을 것으로 보고 있다. 아울러 Xeon 프로세서와의 연동도 지원하여, 프로세서가 작업을 분배하고 데이터 전송을 관리한다.

요청 처리 속도가 메모리 용량만으로 결정되는 것은 아니라는 점에 유의해야 한다. 속도는 연산 장치, 메모리 대역폭, 소프트웨어, 작업 부하의 특성에도 좌우된다.

GPU D-series의 소매 가격과 정확한 시장 출시일은 아직 발표되지 않았다. 인텔은 이 제품을 기업 시스템에 대형 AI 모델을 도입하기 위한 솔루션으로 내세우고 있으며, 다수의 요청을 동시에 처리하고 긴 컨텍스트를 다루는 작업도 염두에 두고 있다.