SK하이닉스가 미국 '인공지능(AI) 하드웨어·엣지 AI 서밋 2023'에서 GDDR6-AiM 기반 생성형 AI 가속기 카드 'AiMX' 시제품을 공개했다.
GDDR6-AiM를 여러 개 연결해 성능을 개선한 거대언어모델(LLM) 특화 제품이다. AiM은 메모리 반도체에 연산 기능을 더해 AI·빅데이터 처리 분야에서 데이터 이동 정체 문제를 풀 수 있는 차세대 기술인 PIM 반도체의 SK하이닉스 제품명이다.
생성형 AI는 데이터 학습량이 많을수록 우수한 결과를 낼 수 있어 빅데이터를 다루며 저전력·고속으로 작동하는 메모리가 필요하다.
SK하이닉스는 메타의 생성형 AI 'OPT(Open Pre-trained Transformer) 13B' 모델을 AiMX 시제품을 탑재한 서버 시스템에서 시연했다. AiMX 시스템은 GPU를 탑재한 시스템 대비 반응속도는 10배 이상 빠르지만 전력 소모는 5분의 1 수준의 성능을 보였다.
회사는 AiMX를 알리는 현장 세션 발표도 진행했다. 임의철 SK하이닉스 메모리솔루션담당 부사장이 '생성형 AI 서비스를 위한 효율적 AiM 가속 솔루션'을 주제로 GPU와 AiMX 성능을 비교하며 차세대 지능형 메모리 반도체 미래를 설명했다.
임 부사장은 “AiMX는 기존 GPU를 쓸 때보다 고성능·저전력에 비용도 절감할 수 있는 솔루션”이라며 “SK하이닉스는 AI 시대를 이끌어갈 메모리 기술 개발을 이어나갈 것”이라고 말했다.
AI 서밋은 영국 마케팅 기업 키사코 리서치 주최로 글로벌 IT 기업과 스타트업이 AI·머신러닝 개발 성과를 공유하는 행사다.
박종진 기자 truth@etnews.com
