한국과학기술원(KAIST·총장 이광형)은 유민수 전기 및 전자공학부 교수팀이 컴퓨터 구조 분야 국제 최우수 학술대회인 IEEE 국제 고성능 컴퓨터 구조 학회(HPCA)에서 최우수논문상을 수상했다고 21일 밝혔다. 국내 최초 성과로, 제출된 논문 410편 중 1위를 차지했다.
현봉준(제1 저자), 김태훈, 이동재 박사과정으로 구성된 유민수 교수팀은 프랑스 기업 UPMEM의 상용화 프로세싱-인-메모리(PIM) 기술을 기반으로 한 '유피뮬레이터(uPIMulator)'라는 시뮬레이션 프레임워크를 제안해 성과를 이뤘다.
챗GPT와 같은 대형 언어 모델(LLM) 및 추천시스템은 많은 양의 메모리 대역폭(메모리에서 한 번에 빼낼 수 있는 데이터 양)을 요구하는데, 기존 CPU·GPU 기반 시스템은 물리적 한계로 이런 메모리 대역폭 수요를 충족시키는데 있어 제약이 따른다.
이를 해결하기 위해 메모리에 연산 장치를 통합하는 PIM 기술이 주목받는다.
그러나 현재 PIM 기술은 초기 단계에 머물러 있다. 다양한 하드웨어(HW) 설계 영역 탐색을 위한 관련 시뮬레이터 연구도 상대적으로 미비하다.
연구팀은 상용 PIM 기술, UPMEM-PIM 제품을 기반으로 설계 및 검증을 거친 시뮬레이터 개발을 통해 PIM 성능, 견고성, 보안성을 개선할 수 있는 다양한 HW 구조를 탐색했다.
실제 PIM 제품에 근거한 시뮬레이터로 PIM HW 구조를 상세 분석하고, 다양한 설계 방향성을 탐색한데 의의가 있다. 개발 시뮬레이터는 현재 오픈소스로 공개됐다.
유민수 교수는 “이번 성과를 바탕으로 앞으로 연구 발전에 더욱 기여할 수 있도록 노력하겠다”며 “함께한 모든 학생들에게도 감사의 마음을 전한다”고 수상 소감을 전했다.
한편 이번 연구는 한국연구재단 및 정보통신기획평가원(IITP), 삼성전자 지원을 받아 수행됐다.
김영준 기자 kyj85@etnews.com
