세계 최대 반도체 연구소인 아이멕(imec)이 그래픽처리장치(GPU) 위에 고대역폭메모리(HBM)를 쌓는 3차원 AI 반도체 가능성을 제시했다. 기술 허들로 지목됐던 발열을 절반 수준까지 낮춰 상용화가 주목된다.
아이멕은 최근 국제전자소자학회(IEEE IEDM)에서 차세대 AI 반도체 칩을 위한 '3D HBM on GPU' 구조 열·성능 최적화 연구 성과를 발표했다. GPU 위에 HBM을 쌓아 올리는 구조에서 발생하는 열을 140도에서 70도 수준으로 낮춘 것이 골자다.
AI 반도체 칩은 중앙에 GPU를 두고 주변에 HBM을 배치하는 게 주류다. 세계 1위 AI 반도체 기업 엔비디아를 포함, 대다수의 AI 반도체 칩이 이 같은 구조를 채택하고 있다. 2.5D 패키징으로 불리는 구조다.
GPU와 HBM은 실리콘 인터포저를 통해 연결되는데, AI 연산 성능을 높이기 위해 거리를 줄여 신호 전송 속도를 높이려는 연구개발이 한창이다.
GPU 위에 바로 HBM을 올리는 3D 적층 구조도 이 중 하나다. GPU와 HBM을 수직으로 맞닿게 해 성능을 끌어올리는 방법이다.
다만 이 방식은 많은 반도체가 쌓이다 보니 열 배출이 어려운 것이 난제로 꼽힌다. 발열은 반도체 칩 성능 이상 뿐 아니라 높은 전력 소모를 일으킬 수 있다.
아이멕은 HBM에 하이브리드 본딩을 적용, 실마리를 풀은 것으로 알려졌다. 하이브리드 본딩은 기존 솔더볼(마이크로 범프)로 D램을 접합했던 것과 달리, 구리와 구리를 직접 연결하는 차세대 기술이다. 아이멕은 하이브리드 본딩을 통해 신호 전송 효율뿐 아니라 열전달 효율도 크게 개선했다고 설명했다.
또 반도체(다이) 내부에서 열전도율을 높이거나 열이 잘 빠져나가는 열 특화 TSV를 채택하고 HBM 적층 배치를 최적화해 발열을 개선했다고 덧붙였다.
아울러 기존 HBM 상단에서만 이뤄졌던 냉각을 전체 AI 반도체 칩 상단과 하단 모두에서 열을 식히는 양면 냉각 기술을 도입했으며, GPU 동작 속도(클럭)를 낮춰 발열을 직접 줄이는 방법도 시도했다고 전했다. 이를 통해 약 28% 정도 처리 속도 손실이 발생했으나, 3D 구조가 주는 고집적 강점에 성능 저하를 상쇄할 수 있었다고 아이멕은 밝혔다.
제임스 마이어스 아이멕 시스템 기술 프로그램 디렉터는 “3D 구성이 제공하는 더 높은 처리량 덕분에 전체적인 성능은 2.5D 보다 우수했다”며 “현재 이 방식을 사용해 HBM 위에 GPU를 배치하는 등 다른 구성을 연구하고 있다”고 말했다.
권동준 기자 djkwon@etnews.com
