삼성전자가 저전력 메모리에 연산 기능을 넣은 AI 추론 전용 기술을 세계 최초로 확보했다. 연산과 전력 효율을 동시에 잡는 저전력 AI 시대를 앞당길 전망이다.
22일 업계에 따르면 삼성전자는 오는 8월 저전력 메모리 LPDDR5X에 PIM(Processing in Memory)을 탑재한 AI 추론 전용 솔루션을 선보일 계획이다.
앞서 삼성전자는 올해 5월 논문 형식으로 LP5X-PIM 시뮬레이터 개발 연구 성과를 공개한 바 있다. 8월에는 여기서 한 발 더 나아가 속도 개선율과 전력 효율 등 구체적인 성능 실측치와 하드웨어 실물 데모, 상용화 로드맵이 공개될 것으로 기대를 모은다.
PIM 기술은 CPU/GPU와 메모리 간 데이터가 이동하면서 발생하는 병목현상을 해결하려는 개념이다. 메모리 내부에 연산 유닛(PIM Logic)을 내장, 데이터 안에서 작업을 처리함으로써 데이터 이동량을 최소화하는 것이 기본 원리다.
PIM 기술 자체는 고대역폭메모리(HBM) 등에 이미 꾸준하게 활용돼 왔다. 그러나 전력 소비가 낮아야 하는 LPDDR 계열에 PIM을 결합하고 'AI 추론' 과정에 실질적으로 적용한 솔루션은 삼성이 첫 사례가 될 전망이다. 이는 솔루션이 연구 단계를 넘어 스마트폰 등 실제 온디바이스 AI 기기에 즉각 탑재를 목표로 하는 수준까지 왔다는 점을 시사한다.
LPDDR5X-PIM 시뮬레이션에서는 AI가 행렬 계산(GEMV)을 할 때 기존 방식 대비 최대 6.2배 빠르게 계산이 가능한 것으로 나타났다. 이는 AI가 사진을 분석하거나 글을 이해하는 속도가 6배 이상 빨라질 수 있다는 의미다.
삼성전자는 HBM으로 서버 시장을, LPDDR5X-PIM으로 개인 기기 시장을 동시에 공략하는 투트랙 전략을 펼치고 있다. LPDDR5X-PIM은 HBM과 달리 전력소비가 적은 노트북이나 스마트폰 등 시장을 타깃으로 한다. 최근 개인정보 보호와 네트워크 지연 문제를 해결하기 위해 온디바이스 AI 중요도가 높아지고 있기 때문이다.
삼성전자의 경우 여기에 자체 개발 중인 4나노 공정 기반 AI 가속기 '가이아(GAIA)'와 결합할 경우 효율이 극대화된다. NPU 중심인 가이아가 AI 연산을 주도하고 LPDDR5X-PIM이 메모리 단계에서 효율적으로 지원 가능하다.
경쟁사들도 유사한 원리의 PIM 개발을 적극 추진하고 있다. SK하이닉스는 자체 PIM 제품인 액셀러레이터인메모리(AiM)를 개발해 선보인 바 있다. 이를 그래픽 D램에 내장한 'GDDR6-AiM' 솔루션을 만들고, 해당 칩 여러 개를 탑재한 AI 가속기 'AiMX'도 공개했다.
업계 관계자는 “AI PC나 플래그십 스마트폰에서 실시간 AI 기능을 지원 가능한 의미있는 기술들이 본격 등장하고 있다”며 “온디바이스 AI 시장의 도약에 긍정적”이라고 설명했다.
이형두 기자 dudu@etnews.com
