- 모델 파라미터·텐서·그래프 정보 은닉…오염 분석으로 AI 추론 관련 코드 자동 식별
쿤텍이 한국전자통신연구원(ETRI)이 주관하는 연구 과제에서 MLIR Pass 기반 난독화로 온디바이스 AI 모델의 연산 정보와 파라미터, 텐서·그래프 정보를 은닉하고, 오염 분석(Taint Analysis)을 기반으로 실제 AI 추론에 관여하는 코드를 자동으로 식별하는 기술을 개발하고 있다. 이번 연구는 과학기술정보통신부와 정보통신기획평가원(IITP)이 지원하는 ‘On-Device AI 정보 유출 방지를 위한 AI 구현 정보 은닉 기술 개발’ 과제의 2차년도 연구로, ETRI가 주관하고 여러 연구기관이 공동 수행한다. 쿤텍은 온디바이스 환경에서 외부 분석을 통한 AI 모델과 추론 프로그램의 구현 정보 노출을 막는 기술을 맡고 있다.
단말에 배포된 AI 모델의 구현 정보 보호
온디바이스 AI는 스마트폰과 IoT 장비, 차량, 산업용 단말 내부에서 직접 AI 연산을 처리한다. 데이터가 기기 내부에 머물고 빠르게 응답하는 장점이 있지만 모델과 응용 프로그램도 단말에 직접 배포되기 때문에 공격자가 이를 확보하면 모델의 연산 정보와 파라미터, 데이터 처리 과정을 분석할 수 있다. 쿤텍은 이를 막기 위해 AI 모델의 구현 정보를 감추는 난독화 기술과 응용 프로그램에서 보호해야 할 코드를 식별하는 오염 분석 기술을 함께 개발하고 있다.
MLIR Pass로 모델 정보 단계별 난독화
AI 모델 난독화는 온디바이스에서 사용하는 모델을 다중 레벨 중간 표현(MLIR)으로 변환한 뒤 여러 난독화 기능을 Pass 단위로 적용한다. 연산자의 식별 정보를 변경하는 비식별화(Renaming)를 비롯해 가중치(Weight)와 편향(Bias) 등의 파라미터를 분리·은닉하는 매개변수 캡슐화(Parameter Encapsulation), 텐서 형상을 변형하는 신경 난독화(Neural Structure Obfuscation), 가짜 연결과 노드를 삽입하는 그래프 난독화(Graph Structure Obfuscation) 등이 포함된다.
각 난독화 기술은 모델 파일에 노출되는 연산자 종류와 파라미터, 텐서 형상, 그래프 연결 관계를 변형해 외부 분석자가 실제 모델 정보를 파악하기 어렵게 한다. 쿤텍은 별도의 실행 정보를 이용해 난독화된 모델에서도 원래 연산을 수행하고 정상적인 추론 기능을 유지하는 기술을 개발하고 있다. 쿤텍은 난독화 기능을 MLIR Pass 단위로 나눠 모델 특성과 보호 요구에 따라 선택적으로 조합하고, 런타임 수정을 최소화하면서 별도 실행 정보로 난독화 연산과 실제 연산을 연결하는 방식을 적용하고 있다.
LLVM IR에서 데이터 이동 추적해 보호 코드 식별
AI 응용 프로그램에는 모델 호출뿐 아니라 전처리와 후처리, 파일 처리 등 여러 코드가 함께 들어가기 때문에 실제 AI 추론에 관여하는 부분을 구분해야 한다. 쿤텍은 C/C++ 기반 AI 응용 프로그램을 LLVM IR로 변환한 뒤 TFLite API를 기준으로 데이터가 변수와 포인터, 함수 호출 등을 거쳐 전달되는 과정을 추적하는 기술을 개발하고 있다. 오염 분석 기술은 함수 이름과 같은 단순 패턴이 아닌 실제 데이터 의존 관계를 기반으로 AI 추론에 관여하는 코드를 자동으로 식별하도록 개발하고 있다. 쿤텍은 이를 통해 프로그램 전체가 아닌 AI 추론과 직접 관련된 코드와 정보를 보호 대상으로 선별하는 기술을 구현하고 있다.
쿤텍은 향후 오염 분석으로 식별한 보호 대상에 난독화 기술을 연계해, 리소스가 제한된 온디바이스 환경에서 AI 추론과 직접 관련된 핵심 코드와 정보를 선택적으로 보호하는 기술로 고도화할 계획이다.
모델 난독화·보호 코드 식별 기술 특허 출원
쿤텍은 연구 과정에서 ‘인공지능 모델의 구현 정보를 은닉하는 방법 및 이를 수행하는 컴퓨팅 장치’와 ‘오염 분석 기반 인공지능 추론 코드의 보호 대상 자동 식별 방법 및 시스템’ 등 2건의 특허를 출원했다. 모델 난독화 기술은 중간 표현 단계에서 연산 식별 정보와 파라미터, 텐서 정보, 그래프 연결 관계 등을 변형·은닉해 모델 파일의 정적 분석과 복원을 어렵게 한다. 오염 분석 기술은 응용 프로그램에서 AI 관련 API와 데이터 이동을 추적해 난독화를 적용할 보호 대상을 자동으로 식별한다.
쿤텍 방혁준 대표는 “온디바이스 AI가 다양한 산업과 제품으로 확산되면서 AI 모델뿐 아니라 이를 구동하는 응용 프로그램의 핵심 로직까지 보호해야 할 필요성이 높아지고 있다”며 “AI 모델 난독화와 데이터 흐름을 기반으로 보호 대상을 식별하는 기술을 함께 고도화해 실제 제품 환경에 적용할 온디바이스 AI 정보 보호 기술을 확보해 나갈 것”이라고 밝혔다.
#쿤텍 #ETRI #한국전자통신연구원 #온디바이스AI #AI보안 #모델난독화 #MLIR #LLVMIR #오염분석 #TaintAnalysis #AI모델보호 #IITP
