반도체 소자 시뮬레이션 계산 효율을 혁신적으로 개선, 기존 대비 최대 100배 빠른 속도로 차세대 소자의 성능을 예측할 수 있는 새로운 알고리즘이 개발됐다.
광주과학기술원(GIST·총장 임기철)은 홍성민 전기전자컴퓨터공학과 교수팀이 이같은 성과를 거뒀다고 16일 밝혔다.
반도체 소자 성능을 사전 예측하고 최적화하려면 'TCAD 시뮬레이션'이 필수적이다. TCAD는 반도체 내에서 전자·정공 이동, 전기장 분포 등을 계산해 소자 전기 특성을 정밀 예측하는 기술이다.
그러나 최신 게이트올어라운드(GAA) 구조나 보완형 트랜지스터(CFET) 등과 같은 복잡한 차세대 소자는 3차원 계산이 필요해, 시뮬레이션에 길게는 수 일이 소요된다.
특히 원하는 전압 조건에서 안정적으로 계산하려면 전압을 조금씩 올리며 수렴을 유도하는 '바이어스 램핑' 과정이 필수인데, 전체 계산 시간 대부분을 차지하며 병목으로 작용했다.
연구팀은 '준 1차원(Quasi-1D) 모델링'과 '영역별 구조 분석'을 결합한 새로운 접근법을 제안했다. 사전 학습 과정 없이 반도체 소자 시뮬레이션 수행 시간을 크게 단축할 수 있다.
핵심은 복잡한 반도체 소자를 전류가 흐르는 채널 방향에 따라 1차원으로 단순화해 빠르게 초기 계산값을 추정하고, 소자를 여러 구간으로 나눠 각 구간에 최적화된 물리 모델을 적용하는 것이다. 기존 필수였던 바이어스 램핑 과정을 생략하고도, 10~100배 빠른 계산 속도를 구현했다.
연구팀은 GAA 소자, CFET 인버터 등 다양한 차세대 소자를 대상으로 새로운 알고리즘을 검증했다.
그 결과, 시뮬레이션 속도가 빨라짐과 동시에, 전압 전달 특성(VTC) 등 주요 전기 특성에서도 기존 TCAD 결과와의 오차가 0.1 볼트(V) 이하로 억제돼 높은 정확성을 입증했다. 또 소자 형태(기하학적 구조)나, 계산 과정에서 나누는 작은 구역을 가리키는 메쉬 조건이 달라져도 성능 저하 없이 일관된 결과를 보였다. 이를 통해 다양한 환경·구조에서도 안정적으로 적용할 수 있다.
홍성민 교수는 “이번 연구는 사전 학습된 인공신경망 기반 AI 모델이 없어도 다양한 구조에서 반도체 소자 시뮬레이션 시간을 대폭 단축할 수 있음을 보여 준 성과”라며 “제안한 기법의 효율성과 정확성, 안정성을 바탕으로 향후 차세대 반도체 소자 개발 속도를 앞당기고 연구 효율을 높이는 데 기여할 것”이라고 말했다.
홍성민 교수가 지도하고 이광운·김인기·정승우·장민서 연구원이 수행한 이번 연구는 과학기술정보통신부·한국연구재단 개인기초연구사업(중견) 지원을 받았다. 연구 결과는 커뮤니케이션스 엔지니어링에 9월 25일 온라인 게재됐다.
김영준 기자 kyj85@etnews.com
