AFE ma-QAOA'로 예상 QPU 작업량 94.5% 절감···자체 GPU 엔진 '파도 파울리'도 인정
연구부터 구현까지 아우르는 기술 역량 입증···글로벌 양자 기업들과 기술 협력 논의도
인공지능(AI) 시대의 양자 인프라 기업 노르마(대표 정현철)는 양자 AI 관련 연구 성과 2편이 양자 컴퓨팅 분야 최고 권위 국제 학회인 IEEE QCE 2026에 채택됐다고 17일 밝혔다.
노르마는 캐나다 토론토에서 열린 IEEE QCE 2026에 참가, 양자 최적화 알고리즘의 하드웨어 자원 소모를 획기적으로 줄인 정규 논문 1편과 이를 뒷받침하는 GPU 기반 시뮬레이션 엔진 '파도 파울리(Pado Pauli)' 포스터 1편을 공개했다.
국제 양자 컴퓨팅 및 엔지니어링 콘퍼런스(IEEE QCE)는 IEEE 컴퓨터 소사이어티가 주관하는 양자 컴퓨팅·엔지니어링 분야의 대표적 국제 학술대회다. 학계와 산업계의 연구 성과가 함께 검증되는 자리다. 올해 학회는 9월 13일부터 18일까지 캐나다 토론토에서 열린다.
이번에 채택된 논문 'SAFE ma-QAOA'(arXiv:2605.23377)는 양자 근사 최적화 알고리즘(QAOA)의 확장 버전인 다중각 QAOA(multi-angle QAOA, ma-QAOA)가 안고 있는 근본적인 딜레마를 다뤘다.
ma-QAOA는 회로의 각 항마다 독립적인 변분 매개변수를 부여해 동일한 회로 깊이에서도 기존 QAOA보다 높은 표현력과 해의 품질을 얻을 수 있다. 그러나 매개변수 수가 급격히 늘어나면서 최적화 과정에서 요구되는 양자 프로세서(QPU) 호출 횟수와 측정량도 함께 폭증한다. 큐비트 수와 실행 시간이 제한적인 현재의 NISQ(Noisy Intermediate-Scale Quantum) 환경에서는 성능 이득을 얻기 위해 감당해야 하는 하드웨어 비용이 오히려 알고리즘의 실용성을 가로막는 구조였다.
노르마 Q AI팀은 이 문제를 하드웨어의 성능 개선이 아니라 최적화 절차의 재설계로 접근했다. 연구팀이 제안한 대리 모델 활용 미세 조정 강화(SAFE) 프레임워크는 최적화 과정을 3단계로 분리해 계산량의 대부분을 값싼 고전 컴퓨팅 자원으로 옮기고 실제 양자 하드웨어는 마지막 미세조정 단계에만 투입한다. 고전 대리 모델(surrogate)이 넓은 매개변수 공간을 먼저 탐색해 유망한 영역을 좁히고 양자처리장치(QPU)는 그 결과를 실제 하드웨어 조건에 맞춰 보정하는 역할을 맡는 구조다.
실험 결과 SAFE 프레임워크는 해의 품질을 유지하면서 예상 QPU 작업량을 최대 94.5% 절감했다. 같은 수준의 최적화 해에 도달하는 데 필요한 양자 하드웨어 사용량을 20분의 1 수준으로 낮춘 셈이다.
연구팀은 이 결과가 “양자 우위를 하드웨어의 물리적 한계 돌파로만 정의해온 관점에서 벗어나 고전-양자 자원의 역할 분담을 통해 지금 존재하는 하드웨어로도 실용적 성과를 낼 수 있음을 보인 것”이라고 설명했다.
같은 학회에 채택된 포스터는 노르마가 자체 개발한 그래픽 처리장치(GPU) 가속 시뮬레이션 엔진 파도 파울리를 다룬다. 파도 파울리는 상태 벡터를 직접 전개하는 기존 방식 대신 관측량을 파울리 기저에서 회로를 따라 전파시키는 파울리 전파(Pauli propagation) 방식을 사용한다. VQE·QAOA처럼 동일한 회로를 수천 번 반복 평가하는 변분 알고리즘에 특히 유리하다. GPU를 통해 CPU 기반 구현 대비 반복 회로 평가 시간을 큰 폭으로 단축했으며 대규모 사례에서 동작을 검증했다. SAFE ma-QAOA 연구의 대규모 실험 역시 이 엔진 위에서 수행됐다고 회사측은 전했다.
노르마 정현철 대표는 “새로운 최적화 프레임워크와 그것을 실제로 돌려낸 자체 시뮬레이션 엔진이 같은 학회에서 나란히 채택된 것은 노르마가 아이디어 제안에 그치지 않고 검증 가능한 구현까지 완결할 수 있는 팀이라는 뜻”이라며 “양자-고전 하이브리드 접근으로 실용적인 양자 컴퓨팅의 도입 시점을 앞당기는 데 계속 집중하겠다”고 말했다.
노르마는 IEEE QCE 2026 현장에서 두 연구를 발표하는 한편 기업 부스를 운영하며 글로벌 양자 하드웨어·소프트웨어 기업들과의 기술 협력 논의도 진행한다.
이경민 기자 kmlee@etnews.com
