맥스웰이 정립한 전자기 이론을 토대로 발전해 온 전파공학은 물리법칙에 기반한 해석과 정밀한 계산을 핵심으로 삼아 왔다. 무선통신과 레이더, 안테나 등의 성능을 예측하고 개선하는 데에도 이러한 접근이 중요한 역할을 해왔다. 여기에 최근 인공지능(AI)과 양자컴퓨팅이 새로운 도구로 더해지고 있다. 복잡한 전자기 현상을 계산하는 데 필요한 시간과 자원을 줄이고, 기존 방식으로 탐색하기 어려웠던 설계의 가능성을 넓힐 수 있기 때문이다.
레이더 분야에서는 이미 고해상도 거리 프로파일(HRRP), 도플러·마이크로도플러 신호, 합성개구레이더(SAR) 영상 등을 AI로 분석하는 연구가 활발하다. 그러나 실제 환경에서 다양한 조건의 학습 데이터를 충분히 확보하기 어렵다는 문제가 있다. 이를 해결하기 위해 물리 모델로 합성 데이터를 생성하거나 생성형 적대 신경망(GAN)을 이용해 부족한 데이터를 보완하는 방법이 연구되고 있다.
일례로 77㎓ FMCW 레이더를 이용한 무인기(UAV) 마이크로도플러 연구에서는 물리 모델로 생성한 합성 데이터와 실제 측정 데이터를 함께 학습에 활용했다. 특정 관측각에서 확보한 신호를 바탕으로 다른 관측각의 데이터를 생성하는 접근도 가능하다. 모든 조건을 직접 측정해야 하는 부담을 덜면서 AI가 학습할 수 있는 범위를 넓히려는 시도다.
데이터 분석을 넘어 RF 시스템의 설계 최적화에서도 AI의 역할이 커지고 있다. 대표적인 접근인 '능동 학습'은 AI가 학습 결과를 바탕으로 추가 시뮬레이션이 필요한 후보를 선정하고, 새로 얻은 결과로 예측 모델을 개선하는 방식이다. 방대한 후보를 일일이 계산하는 대신 필요한 계산을 선별해 설계 효율을 높이는 것이다. Factorization Machine과 모의 어닐링(simulated annealing)을 결합한 FMSA 방식도 이러한 접근에 활용된다. 넓은 설계 공간에서 전자기 시뮬레이션의 반복 횟수를 줄이며 우수한 구조를 탐색하는 것이 목표다.
AI가 축적된 데이터에서 설계의 실마리를 찾는다면, 양자컴퓨팅은 기존 컴퓨터와 다른 계산 원리로 복잡한 문제에 접근한다. 이 가운데 양자 어닐링은 최적화 문제를 이차 비제약 이진 최적화(QUBO) 형태로 표현해 해를 탐색하는 데 활용된다. 전파 분야에서도 전자기 수치해석과 메타표면 설계 최적화 등에 이를 적용하려는 연구가 이어지고 있다.
게이트 기반 양자컴퓨팅 역시 전자기 해석의 계산 부담을 줄일 후보 기술로 주목받는다. 하로우·하시딤·로이드가 제안한 HHL 알고리즘은 선형방정식 문제를 양자 알고리즘으로 다루는 대표적인 방법이다. 유한요소법(FEM)처럼 대규모 선형 시스템을 풀어야 하는 전자기 해석과 연결될 수 있다는 점에서 관심을 끈다. 다만 실제 계산상의 이점은 문제의 특성과 데이터 입력, 결과 추출 등의 조건에 따라 달라지므로 적용 가능성을 신중하게 검토해야 한다.
AI와 양자컴퓨팅이 기존 전자기 해석을 곧바로 대체하는 것은 아니다. AI의 예측 성능은 학습 데이터의 품질과 범위에 영향을 받으며, 양자컴퓨터도 하드웨어 규모와 정확도에 제약이 있다. 따라서 현재로서는 물리 법칙에 기반한 해석을 토대로 두 기술을 적절히 결합해 반복 계산을 줄이고 복잡한 설계 공간을 효율적으로 탐색하는 접근이 중요하다.
이러한 변화는 전파 시스템의 개발 방식뿐 아니라 이를 가르치는 교육에도 새로운 과제를 던진다. AI의 예측과 양자컴퓨팅의 계산 결과를 실제 설계에 활용하려면 전자기학에 대한 이해와 함께 각 도구의 원리와 한계를 판단하는 역량이 필요하기 때문이다. 전자기학과 안테나, 무선통신 등 기존 핵심 교육과정에 AI와 양자컴퓨팅의 기본 개념을 포함하고, 이를 전파 설계·해석 문제에 적용해 보는 교육을 단계적으로 마련할 필요가 있다. 물리적 통찰과 새로운 계산 도구를 함께 갖춘 인재를 기르는 일이 차세대 전파 기술의 가능성을 현실로 만드는 중요한 기반이 될 것이다.
김상혁 경희대 전자공학과 부교수·전자파학회 대외협력부 집행이사 sanghoek@khu.ac.kr
