AI 모델 탈취·에이전트 오작동 대응···모델 하드닝·공급망 보안·데이터 보호 기술 고도화
스마트선박 사이버보안·OT 보안 사업 확대···10년 내 80개국 진출 목표
우수한 기술과 아이디어가 기업의 실질적인 경쟁력이 되기 위해서는 연구개발(R&D)을 넘어 지식재산(IP) 확보와 사업화, 시장 진출로 이어지는 성장 전략이 중요하다. 특히 스타트업과 기술기업에는 핵심 기술을 권리로 보호하고 이를 투자와 사업화, 시장 확장의 자산으로 연결하는 역량이 기업의 성패를 좌우한다. 전자신문은 준성특허법률사무소와 공동으로 독자적인 기술과 사업모델로 새로운 시장에 도전하는 혁신기업을 발굴·소개하는 기획 시리즈 '기술을 권리로, 혁신을 성장으로'를 마련했다.
준성특허법률사무소는 중소벤처기업부 '스케일업 팁스'의 기업성장지원 운영사이자 지식재산처 CIPO(민관협력 IP전략지원사업) 운영사로, 기술기업의 성장과 지식재산 전략을 동시에 지원하고 있다. 이번 기획에서는 이러한 현장 전문성을 바탕으로 유망기업의 창업 배경과 핵심 기술, IP 전략, 사업화 과정과 시장 경쟁력을 집중 조명한다. 하나의 아이디어가 기술이 되고, 기술이 권리로 보호받아 기업의 성장 자산과 새로운 시장으로 이어지는 혁신기업의 여정을 살펴본다. -편집자 주-
인공지능(AI)이 제조와 국방, 조선·해양 등 산업 전반으로 확산하면서 사이버보안의 보호 대상도 빠르게 변화하고 있다. 기존에는 기업의 데이터와 정보시스템, 생산설비를 보호하는 것이 핵심이었다면 이제는 AI 모델 자체의 지식재산(IP)과 AI 에이전트의 판단, 실행 권한까지 관리해야 하는 시대가 열리고 있다.
산업 융합보안 전문기업 쿤텍(대표 방혁준)은 이러한 변화에 대응해 정보기술(IT)과 운영기술(OT), 산업제어시스템(ICS)을 아우르는 기존 보안사업을 AI 모델 보호와 에이전트 보안, 스마트선박 사이버보안으로 확대하고 있다.
쿤텍의 전략은 개별 보안 솔루션을 공급하는 데 그치지 않는다. 소프트웨어와 AI 모델의 도입부터 개발, 배포, 운영에 이르는 전 과정에서 위험을 관리하고 산업현장의 안전성과 연속성을 확보하는 융합보안 체계를 구축하는 데 초점을 맞추고 있다.
특히 한국전자통신연구원(ETRI)과 함께 온디바이스 AI 모델의 핵심 정보를 보호하는 하드닝 기술을 개발하고 있다. AI 모델의 구조와 파라미터, 연산 관계 등을 외부에서 분석하기 어렵게 만드는 기술로, 관련 특허 2건을 출원했다.
방혁준 대표는 “보안이 지켜야 할 범위가 데이터와 시스템을 넘어 AI의 판단과 실행까지 넓어졌다”며 “고객이 새로운 기술을 받아들이면서도 생산을 멈추지 않고 핵심 자산에 대한 통제력을 유지하도록 하는 것이 쿤텍이 지향하는 융합보안”이라고 말했다.
AI 모델 자체가 기업의 핵심 자산···하드닝 기술로 보호
AI 기술이 산업현장에 도입되면서 기업이 개발한 AI 모델 자체를 보호해야 한다는 요구가 커지고 있다. 특히 스마트폰과 차량, 산업용 단말에서 직접 AI를 구동하는 온디바이스 AI는 모델과 실행 프로그램이 기기에 탑재되는 특성상 역공학과 무단 복제 위험에 노출될 수 있다.
AI 모델에는 학습 데이터뿐 아니라 모델 구조와 파라미터, 최적화 과정에서 축적한 기술적 노하우가 담겨 있다. 이러한 정보가 외부로 유출되면 경쟁사가 적은 비용으로 유사 모델을 개발하거나 무단 재사용할 가능성이 있다. 모델 구조가 노출될 경우 AI의 판단을 우회하거나 왜곡하는 공격에도 악용될 수 있다.
쿤텍은 이를 해결하기 위해 ETRI가 주관하는 온디바이스 AI 구현 정보 은닉 연구과제에 참여하고 있다. 핵심은 AI 모델을 MLIR(Multi-Level Intermediate Representation)이라는 중간 표현으로 변환한 뒤 연산자 이름 변경, 파라미터 분리·은닉, 텐서 형상 변형, 가짜 노드 삽입 등의 기법을 적용하는 것이다. AI의 추론 결과는 유지하면서 모델 내부 구조를 분석하기 어렵게 만드는 방식이다.
기존 소프트웨어 하드닝은 프로그램 코드와 실행 흐름을 보호한다면 AI 모델 하드닝은 가중치와 텐서, 연산자 연결 관계 등 모델 고유의 정보를 보호한다는 점에서 차이가 있다. 쿤텍은 국방과 산업용 소프트웨어 보호 솔루션 'SecureALPS'를 통해 축적한 역분석·변조 방지 기술을 AI 모델 보호 분야로 확장하고 있다.
방 대표는 “AI 모델 탈취는 단순히 파일 하나가 유출되는 문제가 아니라 기업의 기술 경쟁력이 유출되는 문제”라며 “외부에서 도입하는 AI 모델의 안전성을 검증하는 동시에 기업이 자체 개발한 모델과 핵심 로직을 보호하는 기술이 함께 필요하다”고 강조했다.
쿤텍은 AI 응용 프로그램에서 실제 추론에 관여하는 핵심 코드만 식별해 선택적으로 보호하는 기술도 개발하고 있다. AI 추론 API를 기준으로 변수와 포인터, 함수 호출 사이의 데이터 흐름을 분석해 보호 대상을 찾아내는 방식이다. 프로그램 전체에 일괄적으로 보안 기술을 적용할 때 발생할 수 있는 성능 저하를 최소화하기 위한 접근이다.
방 대표는 “산업용 단말에서는 응답 시간과 메모리 사용량, 시스템 안정성이 곧 제품 품질”이라며 “보호해야 할 핵심 코드를 정확히 찾아 보안을 집중하면 성능 부담을 줄이면서 기술 보호 수준을 높일 수 있을 것”이라고 설명했다.
AI 에이전트 보안부터 데이터 협업까지···산업현장 보호체계 확대
쿤텍은 AI 모델 자체의 보호와 함께 AI 에이전트가 기업 내부 시스템과 데이터에 접근하는 과정에서 발생할 수 있는 보안 위험에도 대응하고 있다.
AI 에이전트는 단순히 질문에 답하는 것을 넘어 기업 내부 데이터를 조회하고 업무 도구를 호출하며 실제 작업을 수행한다. 이에 따라 기존의 정보 유출이나 악성코드 공격뿐 아니라 AI가 허용되지 않은 명령을 실행하거나 잘못된 판단을 내리는 위험까지 관리해야 한다.
쿤텍은 소프트웨어 공급망 보안 솔루션 'AEZIZ'와 AI 에이전트 보안 솔루션 'ASH'를 중심으로 이러한 위험에 대응한다.
AEZIZ는 외부에서 도입하는 소프트웨어와 AI 모델의 구성요소, 출처, 변경 이력과 취약점을 점검하는 역할을 맡는다. ASH는 AI 에이전트가 내부 데이터에 접근하거나 도구를 실행하는 과정에서 발생할 수 있는 위험을 점검하고 통제하는 데 초점을 맞췄다.
제조 현장에서는 글로벌 OT 보안기업 클래로티(Claroty)의 솔루션과 ASH를 연계해 생산설비에서 제조 AI까지 보호 범위를 확대하는 사업을 추진하고 있다. 기업 간 데이터 협업 과정에서 발생하는 보안 문제를 해결하기 위한 기술도 선보였다.
쿤텍의 '넥사(NEXA)'는 서울대학교 백윤흥 교수 연구실의 보안 기반기술 '프리비브리지(PrivyBridge)'를 실제 서비스로 구현한 프라이버시 보호 플랫폼이다. 데이터 보유기관과 AI 기업이 원본 데이터나 모델의 핵심 정보를 상대방에게 직접 제공하지 않고도 공동 분석을 수행할 수 있도록 설계했다.
민감한 데이터의 연산은 참여기관이 관리하는 신뢰실행환경(TEE) 내부에서 수행한다. 원격증명을 통해 실행환경과 코드의 무결성을 확인한 뒤 승인된 연산만 처리하며, 외부에는 허용된 결과만 제공한다. 작업이 끝나면 임시 실행 상태와 세션키를 폐기하고 데이터 활용 이력은 감사 기록으로 관리한다.
방 대표는 “데이터를 보유한 기업은 원본 유출을 우려하고 AI 기업은 모델과 핵심 로직의 노출을 걱정한다”며 “서로의 핵심 자산을 넘기지 않고도 안전하게 협업할 수 있는 환경을 만드는 것이 NEXA의 핵심 가치”라고 말했다.
쿤텍은 이러한 기술이 공공기관 간 데이터 협업과 금융·의료·제조 등 민감정보를 다루는 산업에서 활용될 수 있을 것으로 기대하고 있다.
스마트선박 보안시장 공략···국제 사이버복원력 규정 대응
쿤텍이 새로운 성장 분야로 주목하는 시장 중 하나는 스마트선박 사이버보안이다. 선박의 디지털화와 자율운항 기술이 발전하면서 항해·통신·기관제어 시스템이 네트워크로 연결되고 있다. 이에 따라 사이버공격이 단순한 정보 유출을 넘어 선박 운항과 인명 안전에 직접적인 영향을 미칠 수 있다는 우려가 커지고 있다.
특히 국제선급연합회(IACS)의 사이버복원력 통합규정 UR E26·E27이 2024년 7월 1일 이후 건조 계약을 체결한 적용 대상 선박에 요구되면서 조선소와 선사, 기자재 업체의 사이버보안 대응 중요성이 높아졌다.
UR E26은 선박 전체의 사이버복원력 확보에, UR E27은 선박에 탑재되는 시스템과 장비의 사이버복원력에 초점을 맞춘다. 쿤텍은 선박 보안 솔루션 '테라그리드 마리타임(TGM)'을 중심으로 설계와 건조, 운항, 검사에 이르는 보안 관리체계를 구축하고 있다.
TGM은 선내 자산을 식별하고 사이버위협을 탐지하며 위험 수준에 따른 경보와 대응 정책을 적용하도록 설계됐다. 특히 운항 중인 시스템의 정상적인 동작에 개입하지 않는 관측 방식을 적용하고, 위성통신이 끊긴 환경에서도 선내에서 독립적으로 작동할 수 있도록 했다.
안전에 영향을 줄 수 있는 대응 조치는 선내 승인을 전제로 한다. 쿤텍은 한국선급의 시험도구 'KR-TESTER', 한국선급과 공동 개발한 사이버복원력 검사 지원체계 'KR-CRP'와 TGM을 연계해 시험과 운영, 검사에 필요한 증적 관리까지 지원하는 체계를 마련하고 있다.
실제 선박 환경을 모사한 테스트베드에서는 악성코드 유입과 GPS 재밍·스푸핑, 비인가 원격접속, 분산서비스거부(DDoS) 공격 등을 투입해 탐지와 대응 과정을 검증했다.
해당 검증에는 선급과 조선소, 기자재 업체, 선사 관계자들이 참여했으며, 가상 선박 2척을 활용해 실제 공격 상황을 재현했다. TGM은 한국선급을 시작으로 UR E27 관련 형식승인 절차를 추진하고 있다.
쿤텍은 국내외 선사 및 조선소·기자재 기업과 국가연구과제를 통해 협력해 왔다. 이러한 협력 기반을 활용해 국내 조선·해운산업의 보안 규제 대응을 지원하고 해외 선급과 선사로 사업을 확대한다는 전략이다.
방 대표는 “바다에서 사이버 사고는 단순한 정보 사고가 아니라 실제 운항 사고로 이어질 수 있다”며 “선박 보안은 조선소와 선사, 기자재 업체가 설계부터 운항까지 함께 관리해야 하는 안전 문제이자 수출 경쟁력의 조건”이라고 설명했다.
이어 “쿤텍은 장비를 납품하고 끝나는 회사가 아니라 고객과 함께 설계부터 운항, 검사와 사고 대응까지 책임지는 보안 파트너가 되고자 한다”고 덧붙였다.
제조·국방·조선 중심 산업보안 확대···통합 보안체계 구축
쿤텍은 개별 솔루션의 전문성을 유지하면서 제품 간 연계를 확대하는 방식으로 융합보안 사업을 고도화하고 있다. 소프트웨어와 AI 모델 도입 단계에서는 AEZIZ가 공급망 위험을 관리하고, 개발 단계에서는 가상화 기반 검증 솔루션 'FastVLabs'가 실제 하드웨어 없이 소프트웨어를 검증한다.
배포 단계에서는 SecureALPS가 소프트웨어의 역분석과 변조를 방지하고, 운영 단계에서는 ASH가 AI 에이전트를, TGM과 클래로티 기반 솔루션이 선박과 산업설비를 보호한다. 기관 간 데이터 협업에는 NEXA를 적용하는 구조다.
5G 특화망은 스마트공장과 항만 등에서 설비와 시스템을 연결하는 통신 기반으로 활용한다. 장기적으로는 각 솔루션이 확보한 자산 정보와 보안 이벤트, 운영 증적을 연계해 고객이 위험의 원인을 신속하게 파악하고 대응할 수 있도록 할 계획이다.
방 대표는 “조선소와 은행, 공장이 요구하는 보안은 서로 다르기 때문에 처음부터 하나의 거대한 플랫폼을 도입하도록 하는 것은 고객에게 부담이 될 수 있다”며 “필요한 기능부터 도입하고 업무 흐름에 맞춰 점진적으로 연계하는 것이 현실적인 융합보안 전략”이라고 말했다.
쿤텍은 실제 산업현장에서 축적한 보안 구축 경험을 경쟁력으로 내세우고 있다. 최근 국내 대형 제조기업에 클래로티 기반 OT 보안체계를 생산라인 중단 없이 구축했으며, 이 과정에서 관리 대상에 포함되지 않았던 장비와 악성코드 감염 징후를 발견해 고객의 초동 대응을 지원했다.
국방·항공·원자력 분야에서 축적한 가상화 기술은 자동차 분야로 확대하고 있다. FastVLabs를 활용해 차량용 중앙 컴퓨팅 플랫폼(HPVC)의 가상화 기술을 추진하는 것이 대표적이다.
방 대표는 “제조 현장에서 고객이 가장 우려하는 것은 보안 솔루션을 적용하는 과정에서 생산라인이 멈추는 것”이라며 “생산을 중단하지 않으면서 위협을 찾아내고 사고를 예방하는 것이 산업보안의 실질적인 투자 효과”라고 강조했다.
일본·유럽 시장 진출 추진···10년 내 80개국 목표
쿤텍은 국내 산업현장에서 검증한 기술과 제품을 기반으로 해외시장 진출도 추진하고 있다. 우선 일본을 해외사업 확대의 주요 거점으로 삼고 FastVLabs와 TGM, AEZIZ, ASH 등을 중심으로 현지 고객 및 협력사와의 접점을 확대하고 있다.
FastVLabs는 일본 현지 협력사와 기술협력을 논의하고 있으며, 독일·프랑스 기업과의 기술협력을 바탕으로 유럽시장 진출도 검토하고 있다. 스마트선박 보안은 국내에서 선급·조선소·보안기업 간 협력 모델을 구축한 뒤 해외 선급과 선사에 공동으로 제안하는 방식을 추진한다.
향후 3~5년간 중점 추진 분야는 AI 보안과 스마트선박 보안, 해외사업 확대다. AI 보안에서는 ASH를 통한 모델·에이전트 위험관리와 NEXA를 통한 안전한 데이터 협업 기반을 강화한다. 지난해가 아닌 올해 9월 GS인증 1등급을 획득한 AEZIZ 3.0은 기존 금융권 중심의 공급망 보안사업을 공공·산업 분야로 확대하는 데 활용할 계획이다.
스마트선박 분야에서는 국내 조선·해운기업이 국산 보안기술로 국제 사이버복원력 규정에 대응할 수 있는 협력체계를 구축하고, 이를 해외시장 진출의 기반으로 삼는다.
방 대표는 OT·ICS 보안이 이러한 사업 확장의 기반이라고 강조했다. 쿤텍이 2019년부터 제조와 항만 현장에서 축적해 온 경험이 제조 AI와 스마트선박 보안으로 이어지고 있다는 설명이다. 궁극적인 목표는 한국을 대표하는 글로벌 산업 융합보안 기업으로 성장하는 것이다.
방 대표는 “10년 안에 80개국에 진출한 보안 기업을 만드는 것이 장기적인 목표”라며 “산업이 AI 중심으로 변화하는 현장에서 고객이 새로운 기술을 믿고 도입할 수 있도록 지원하겠다”고 밝혔다.
이어 “한국을 대표하는 융합보안 기업인지는 보유한 제품의 숫자가 아니라 실제 산업현장에서 쌓은 신뢰로 결정된다고 생각한다”며 “제조와 국방, 조선·해양 등 각 산업의 언어를 이해하고 고객의 안전과 경쟁력을 함께 지키는 보안 기업으로 성장하겠다”고 말했다.
소성렬 기자 hisabisa@etnews.com
