삼성전자가 챗GPT로 대두된 인공지능(AI) 시대를 맞아 데이터 처리 성능을 높인 차세대 메모리 솔루션을 공개했다.
최진혁 삼성전자 미주법인 메모리연구소장(부사장)은 28일(현지시간) 미국 캘리포니아주 마우틴뷰에서 열린 '멤콘(MemCon) 2023'에서 '데이터 중심 컴퓨팅 시대의 메모리 혁신'을 주제로 기조연설했다. 멤콘은 AI 메모리 솔루션을 심층적으로 다루기 위해 올해 처음 개최된 학회로 삼성전자, 구글, 마이크로소프트 등이 참여했다.
최 부사장은 고성능 메모리에 연산 기능을 내장한 고대역폭메모리(HBM)-PIM, 연산 기능이 메모리 주변에 위치한 PNM, 시스템 메모리 용량을 테라바이트(TB)까지 확장할 수 있는 컴퓨트익스프레스링크(CXL) D램, 내부 연산 기능을 강화한 2세대 솔리드스테이트드라이브(SSD) 등을 발표했다.
최 부사장은 이 같은 메모리 솔루션 개발 배경으로 메모리 병목 현상을 들었다. 챗GPT와 같은 대규모 언어 모델의 경우 메모리가 연산을 담당하는 프로세서로 데이터를 전달하는 데 많은 시간을 소비해 시스템 효율이 감소한다는 것이다.
삼성전자는 챗GPT에 HBM-PIM 기술을 적용할 경우 HBM만 탑재된 그래픽처리장치(GPU) 가속기에 비해 AI 모델 생성 성능이 3.4배 이상 개선된다고 설명했다. 메모리 간 고속 인터페이스 규격인 CXL 기반 PNM 기술 역시 기존 GPU 가속기 대비 D램 용량은 4배 증가하고 AI 모델 처리 속도가 2배 이상 향상됐다.
삼성전자는 차세대 메모리 솔루션을 비롯해 지원 소프트웨어와 실행 방법, 성능 평가 환경 등을 오픈소스로 공개해 AI 생태계 확장에 기여한다는 계획이다.
최 부사장은 “다양한 차세대 메모리 솔루션을 개발하고 글로벌 정보기술(IT) 기업과 협력을 강화해 메모리 패러다임 변화를 주도하겠다”고 말했다.
송윤섭기자 sys@etnews.com
