SK하이닉스가 미국 반도체 스타트업 테트라멤과 메모리 안에서 직접 연산하는 차세대 인공지능(AI) 반도체 기술을 검증했다. 이번에 구현한 멤리스터 기반 인메모리컴퓨팅(IMC) 시스템온칩(SoC)은 고대역폭메모리(HBM) 이후 AI 반도체 전력 효율을 높일 기술로서 주목된다.
SK하이닉스와 테트라멤에 따르면 최근 양사는 국제 학술지 어드밴스드 인텔리전트 시스템스(Advanced Intelligent Systems)에 '효율적인 깊이별 컨볼루션을 갖춘 멤리스터 기반 인메모리 컴퓨팅 SoC' 논문을 게재했다. 해당 논문은 메모리 소자 기반 연산 구조를 실제 SoC로 구현하고, AI 추론 작업에서 성능과 효율을 검증한 내용을 담았다.
인메모리컴퓨팅은 메모리 내부에서 직접 연산을 수행하는 기술이다. 메모리에 저장된 데이터를 프로세서로 옮겨 계산하는 기존 구조와는 다르다. AI 모델이 커질수록 데이터 이동에 따른 전력 소모와 지연이 커지는데, 이를 줄이기 위한 차세대 컴퓨팅 방식으로 꼽힌다.
HBM이 D램을 수직으로 쌓아 프로세서 사이 데이터 통로를 넓히는 기술이라면, 인메모리컴퓨팅은 데이터 이동 자체를 줄이는 데 초점을 둔다.
이번 연구의 차별점은 기존 IMC 구조에서 효율적으로 구현하기 어려웠던 깊이별 컨볼루션 연산을 하드웨어에서 실제 검증했다는 데 있다. 깊이별 컨볼루션은 가벼운 AI 모델에서 연산량을 줄이기 위해 활용되는 방식이다.
논문에 따르면 이번 SoC는 65나노 금속산화막반도체(CMOS) 공정 기반으로 제작됐다. 100MHz 동작 조건에서 21.3TOPS/W의 에너지 효율을 달성했다. 시각 웨이크 워드(VWW) 데이터셋 기반 맞춤형 모바일넷V1 모델을 구동한 결과 80.36%의 추론 정확도를 기록했다. 이는 4비트 정밀도로 양자화한 동일 소프트웨어 모델과 유사한 수준이다.
SK하이닉스는 이번 프로젝트에서 메모리 소자와 공정, 백엔드 공정 기술을 기반으로 실제 칩 구현에 참여했다. 테트라멤은 회로와 연산 구조 설계를 맡았다.
테트라멤은 2018년 설립된 미국 캘리포니아주 소재 스타트업이다. 아날로그 메모리 기반 컴퓨팅 플랫폼을 개발하며, 멤리스터 등 차세대 메모리 소자를 활용한 AI 연산 효율 개선 기술을 연구하고 있다.
김수길 SK하이닉스 부사장은 “이번 프로젝트는 미래 AI 시스템을 위한 혁신적인 메모리 기술과 새로운 컴퓨팅 아키텍처를 탐구하는 것의 가치를 보여준다”며 “테트라멤 팀과 상호 관심 분야에서 지속적인 기술 교류를 기대한다”고 말했다.
박유민 기자 newmin@etnews.com
