반도체 공정 정보는 산업 기밀을 포함하고 있는 민감한 정보로 분류된다. 이로 인해 민간 영역에서 기술 정보 공개나 데이터 개방이 매우 제한적이다. 데이터 접근성이 떨어지면서 공정 데이터를 기반으로 한 새로운 기술 개발 및 최적화 방법론 도입 또한 한계가 존재한다.
뿐만 아니라 반도체 공정은 엄청난 시간과 비용이 소모되며, 미세화와 3차원 구조로 인해 공정 조건을 확보하기가 점차 어려워지고 있어 최적의 공정 조건을 찾기 위해선 수많은 실험이 요구된다.
이는 반도체 연구개발(R&D)을 수행하는 산·학·연 연구자들을 비롯해 중소 반도체 제조사들에게 매우 불리하게 작용한다. 공정 데이터에 대한 접근이 어려워 공정 최적화 부분에서 대기업 대비 상대적인 불이익을 겪고 있는 실정이다.
이를 해결하기 위해 나노종합기술원(원장 박흥수)이 인공지능(Al) 기반 공정 예측 시스템을 개발했다. 반도체 분야 산·학·연 연구자들이 실제 공정 진행을 하지 않아도 공정 결과를 사전에 예측함으로써 R&D 비용 절감과 효율성을 높일 수 있다는 점에서 주목된다.
여기에 그치지 않고 반도체 주요 공정 및 모듈 공정 전체를 모사하는 데이터 기반 반도체 공정 AI 예측 시스템도 개발에 착수할 예정이다. 단순한 공정 데이터 분석 도구를 넘어 국내 반도체 소재·부품·장비 기업 기술력 향상과 경쟁력 강화를 끌어내겠다는 방침이다.
과학기술정보통신부의 나노 및 소재 기술개발사업으로 수행되는 이번 사업은 나노팹에서 생산되는 공정 및 장비 데이터를 기반으로 반도체 제조 공정의 효율성을 높이고 개발 기간 단축 및 궁극적으로 생산성 향상을 목적으로 하는 'Al 데이터 기반 나노팹 공정 스마트 서비스 활용 체계 구축 사업' 일환으로 추진됐다.
나노종합기술원이 주관으로, 한국과학기술정보연구원(KISTI)과 AI 기술 활용 반도체 모델링 및 시뮬레이션 전문기업 알세미가 참여했다.
나노종합기술원 등 공공 나노팹에서는 그동안 반도체 공정 관련 산·학·연 서비스를 통해 매년 수만 건의 팹 공정 정보 데이터가 발생하고 있다.
그러나 이러한 공정 정보 데이터를 축적·정제·활용할 수 있는 기반이나 도구가 부재해 데이터 활용률이 떨어진다.
이에 따라 나노종합기술원은 이번 사업을 통해 반도체 제조 공정에서 발생하는 다양한 데이터를 AI 모델링을 활용해 분석하고 예측하는 AI 플랫폼에 주목했다.
AI는 기존 물리적 시뮬레이션과 달리 공정 변수 간 복잡한 상호작용을 효율적으로 학습하고 예측할 수 있으며, 이를 통해 공정 결과 정확도를 높이고 최적화를 가능하게 한다.
◇반도체 이온주입 예측 모델 공정 정합성 91.2% 달성
2022년부터 사업에 착수한 나노종합기술원은 현재 1단계 연구성과로 Al 모델링과 이온주입 공정 실험 데이터를 활용한 이온주입 예측 시스템 개발을 완료한 상태다. 개발에 필요한 데이터는 과제에서 발생된 데이터만을 우선 사용했다.
개발된 이온주입 예측 시스템은 다양한 공정 조건에 추가로 2차원 좌표 정보를 입력 변수로 삼고, 해당 조건과 위치의 도핑 농도를 출력 변수로 한 모델이다.
이때 도펀트(Dopant)는 범주형 변수여서 해당 조건별로 모델을 따로 만드는 방식을 사용하며, 일반적으로 많이 쓰이는 인공신경망 구조인 다층신경망(MLP)을 기본 참조 모델로 만들었다.
연구진은 또 해당 유형 문제에 적합한 파라미터화된 물리 정보 신경망(Parameterized Physics-informed Neural Network, P2INN)을 연구했다. 최적 모델이 만들어지기 위한 여러 가지 노이즈 제거 알고리즘을 비교 연구 완료했으며, 최적 조건과 범위 등을 선정해 소프트웨어(SW)에 채택 완료했다.
이후 나노팹에서 진행하는 다양한 표준 공정 실측 데이터에 대해 최종 파인튜닝 모델을 적용, 실측 데이터와 모델값 정합성을 평가한 결과, 표준 공정 조건 정합성 91.2%(평균치) 달성에 성공했다.
◇주요 공정 및 모듈 공정 전체 모사 모델링 확대 개발 추진
나노종합기술원은 이온주입 공정의 경우에 한정한 사업 1단계 결과를 내년부터 포토, 증착, 식각 등 주요 반도체 공정으로 확대하는 2단계 사업에 착수한다. 최종적으로 모듈 공정 전체를 모사하는 데이터 기반 반도체 공정 AI 예측 시스템을 만들 계획이다.
우선 AI 모델링을 위한 공정 시뮬레이션 구축을 위해 반도체 포토 공정에서 중요한 역할을 하는 광원, 마스크, 레지스트 등 주요 공정 변수를 나노종합기술원 반도체 팹 환경 조건으로 설정하고, 웨이퍼 상 다양한 패턴 양상에 따라 노광 조건 변화에 대한 모사 평가를 진행한다. 이를 통해 미세한 패턴 전사 오류를 사전에 예측하고 개선할 수 있는 데이터 기반 공정 최적화 구현할 계획이다.
실제 반도체 산업에서 널리 사용되고 있는 248나노미터(㎚) 파장의 불화크립톤(KrF) 노광 장비를 대상으로 시뮬레이션을 수행해 특정 장비에 대한 주요 공정 조건을 분석하고, 미세 패턴 형성에 미치는 영향을 평가한다. 나노종합기술원 연구진은 이러한 노광 모사 시뮬레이션이 파장 특성에 맞는 최적의 공정 조건을 설계하는 데 중요한 역할을 할 것으로 기대하고 있다.
또 멀티피직스 시뮬레이션 및 식각 형상 프로파일 시뮬레이션을 기반으로 반응이온에칭(RIE) 공정에 필요한 유도결합플라즈마(ICP) 공정 모사 환경도 구현한다.
이는 반도체 식각 공정 중 플라즈마 환경에서 이온, 중성종의 거동이 기판을 식각하는 과정을 재현하며, 이를 통해 기판에서 진행되는 물리·화학적 식각 과정에 대한 특성 예측을 가능하게 한다.
RIE 식각 공정에 필요한 ICP 챔버 모듈에서 전기 가열에 따른 전자 밀도, 전자 온도, 플라즈마 변위 변화를 관찰하고, 전자 충돌 반응과 이온-중성종 충돌 등을 기반으로 2차원 공간에서 변화하는 플라즈마 화학변화를 관찰해 라디칼, 이온의 거동에 관한 데이터를 확보할 계획이다.
연구진은 공정 인가 가스, 인가 파워, 인가 주파수 등 공정 변수에 따른 챔버 내 벌크 플라즈마 특성 변화 및 식각 공정 중 나타나는 다양한 식각 형상 프로파일 특성 변화를 해석해 데이터를 확보할 수 있을 것으로 보고 있다.
플라즈마 시뮬레이션 모델을 통한 식각 공정 해석 결과는 실제 실험을 통한 식각 공정 결과 데이터와 상호 비교를 거치며, 시뮬레이션 모델 교정 과정을 통해 다양한 공정 조건에서 신뢰성 있는 예측 결과를 도출할 수 있게 함으로써 실험 결과와의 높은 정합성을 확보한다.
반도체 증착 공정 모사는 멀티피직스 시뮬레이션을 적용한다. 멀티피직스 시뮬레이션은 반도체 공정만을 위해 특화된 것은 아니지만 식각, 박막 증착 공정 진행 시 내부적으로 일어나는 물리·화학적인 반응들을 각각 수식 기반으로 모사할 수 있어 이러한 공정을 모사하는 데 있어서 큰 장점이 있다. 연구진은 멀티피직스 시뮬레이션 기반으로 방법론을 구축해 AI 학습데이터를 추출할 계획이다.
또 플라즈마 화학기상증착(PECVD) 공정 모사를 위한 멀티피직스 시뮬레이션의 경우 플루이드 및 파티클을 기반으로 시뮬레이션을 추진할 수 있다.
플루이드 기반의 경우 시뮬레이션 수렴이 쉽고 속도가 빠른 장점을 갖지만, 파티클 기반은 시뮬레이션 정확도가 높다는 장점이 있어 연구진은 각 방법론 장점만을 취할 계획이다. 즉 증착 속도에 대한 시뮬레이션은 플루이드 기반, 증착된 박막 형상에 대한 시뮬레이션은 플루이드 및 파티클이 혼합된 형태의 시뮬레이션 방법론을 개발 추진한다.
반도체 이온주입 공정은 전산모사(TCAD) 시뮬레이션을 활영해 3차원 실리콘 기판에서 이온주입 과정을 모사하고 분석한다. 3차원 구조에서는 2차원과 달리 기하학적 복잡성이 증가하며, 이로 인해 발생하는 다양한 현상을 상세히 관찰할 수 있다.
연구진은 “3차원 구조에서는 간섭효과를 고려해야 하는데, 이 현상은 이온주입 시 이온 기울기 및 회전에 따른 불순물 이온 분포의 변형을 유발할 수 있다”며 “이는 실질적으로 이온이 기판에 주입되는 깊이와 농도에 중요한 영향을 미친다”고 설명했다.
연구진은 이 시뮬레이션을 통해 정량적으로 분석하고 공정에 미치는 영향을 평가해 이온주입 공정 시뮬레이션에 해당 효과를 반영한다.
이를 통해 얻어진 초기 데이터를 실제 이온주입 공정에서 측정된 데이터와 비교해 정합성을 평가하고, 이러한 비교 과정을 통해 시뮬레이션 결과 정확도를 높임과 동시에 실제 공정 상황을 보다 현실적으로 반영할 수 있는 시뮬레이션 모델을 구축할 계획이다.
◇Al 기반 공정 예측 시스템, 반도체 산업 생태계 전반 영향력
연구진은 2단계 사업을 통해 AI 기반 공정 예측 시스템이 최종적으로 개발 완료되면 공정 결과를 사전에 확인할 수 있는 장점과 실험 조건 수를 줄여 R&D 비용 절감 및 효율성을 크게 증대시킬 수 있을 것으로 기대한다.
특히 기존 연구에서는 주로 실측 데이터만 활용하거나 시뮬레이션 데이터에 의존하는 경우가 많았지만, 이번 연구는 TCAD 시뮬레이션 데이터와 실측 데이터를 결합해 예측 모델을 개발하고, 시뮬레이션 결과의 물리적 특성을 최대한 활용해 다양한 공정 조건에 적합한 모델을 구현할 수 있다는 차별점을 갖는다.
이는 결과적으로 실측 데이터 추가 학습을 통한 모델의 파인튜닝으로 이어져 예측 정확성과 정밀성을 크게 향상시켜 향후 공정 환경의 미세한 차이를 고려하는 데 중요한 역할을 할 수 있다고 연구진은 설명한다.
이번 사업 총괄책임자인 양준모 나노종합기술원 박사는 공정 시뮬레이션과 AI 기반 예측 시스템을 통해 제조 공정 데이터를 실시간으로 분석하고 예측함으로써 나노종합기술원 반도체 제조 공정 서비스의 스마트화를 실현하겠다는 포부를 밝혔다.
양 박사는 “국내 반도체 제조사들이 공정 데이터에 대한 접근성을 높이고, 기술적 격차를 줄이는 데 기여할 수 있으며, 국내 반도체 소부장 기업의 기술력 향상과 경쟁력 강화를 도모하는 것이 궁극적 목표”라고 말했다.
그는 또 “AI 플랫폼은 단순한 공정 데이터 분석 도구를 넘어 산업 전반에 걸친 협력과 기술 발전을 이끌어낼 수 있는 중요한 수단으로 자리매김할 수 있을 것”이라며 “이번 연구가 향후 산·학·연 간 기술 공유 및 협력을 촉진하고, 반도체 산업 생태계 전반에 엄청난 영향을 미칠 것”이라고 강조했다.
이인희 기자 leeih@etnews.com
