SK하이닉스, 생성형 AI용 가속기 카드로 GPU에 도전장

[이코노믹데일리] SK하이닉스가 생성형 인공지능(AI) 작동에 필수 부품인 그래픽카드를 대체할 가속기 카드를 새롭게 선보였다. 메모리 반도체에 연산 기능을 더한 PIM을 탑재한 가속기 카드로 데이터 처리 속도를 높이고 소모 전력은 아낄 수 있어 AI 산업의 게임체인저가 될지 주목된다.

18일 SK하이닉스에 따르면 이 회사는 지난 12일(현지시간) 미국 캘리포니아주(州) 산타클라라 호텔에서 열린 'AI 하드웨어&엣지 AI 서밋(AI 서밋)'에 참가해 GDDR6-AiM 기반 생성형 AI 가속기 카드 'AiMX' 시제품을 최초로 공개했다.

이번에 공개된 가속기 카드는 그래픽처리장치(GPU)를 보조하는 차세대 D램인 GDDR6 메모리를 바탕으로 연산 기능을 결합해 기계 학습 성능과 고성능 컴퓨팅 속도를 끌어올린 제품이다. AiMX는 GDDR6-AiM 칩을 여러 개 연결해 성능을 높였다.

현재는 AI를 구동할 때 GPU와 그래픽 전용 D램(GDDR)을 장착한 그래픽카드가 쓰인다. SK하이닉스가 개발한 가속기 카드는 고용량 이미지·영상 등을 처리하는 그래픽카드와 달리 AI 구동에 특화됐다. GPU는 미국 AI 반도체 팹리스(설계 전문 회사)인 엔비디아가 세계 AI 시스템 수요 90%를 차지한다.

일반적인 그래픽카드는 연산 기능을 하는 GPU와 데이터를 임시 저장하는 D램이 각각 존재해 병목 현상이 발생할 수 있는 반면 PIM을 적용한 AiMX는 데이터 이동 정체가 적다. 생성형 AI는 데이터 학습량이 많을수록 우수한 결과를 내기 때문에 대량의 데이터를 효율적으로 처리하는 메모리가 필수다.

SK하이닉스는 AI 서밋에서 메타가 개발한 생성형 AI 'OPT 13B' 모델을 AiMX 시스템에서 시연했다. GDDR6-AiM 칩을 탑재한 AiMX 시스템은 GPU 기반 시스템보다 반응속도는 10배 빠르고 소모 전력은 5분의1 수준으로 나타났다.

임의철 SK하이닉스 메모리솔루션담당(부사장)은 AI 서밋에서 "AiMX는 기존 GPU를 쓸 때보다 고성능·저전력으로 비용을 절감할 수 있는 솔루션"이라며 "AI 시대를 이끌어 갈 메모리 기술 개발을 이어갈 것"이라고 말했다.