쿤텍, 온디바이스 AI 정보 유출 방지 위한 모델 난독화 기술 개발

쿤텍, 온디바이스 AI 보안 위한 모델 난독화 기술로 데이터 보호 강화

AI 기술이 날로 발전함에 따라, 데이터 보안 문제는 점점 더 중요해지고 있습니다. 특히 온디바이스 AI 기술은 스마트폰, IoT 장치, 차량 등 다양한 기기에서 직접 AI 연산을 수행하기 때문에, 이러한 기기 내부에 저장된 AI 모델과 데이터가 외부에 노출되는 경우가 발생할 수 있습니다. 이와 관련해 쿤텍(대표 방혁준)은 최근 ‘온디바이스 AI 정보 유출 방지를 위한 AI 구현 정보 은닉 기술 개발’ 프로젝트를 통해 AI 모델 난독화 및 데이터 흐름 분석 기술을 선보였다고 7일 밝혔습니다.

온디바이스 AI의 보안 위협

온디바이스 AI는 사용자의 기기 내에서 직접 연산을 수행하기 때문에, 공격자가 AI 모델에 접근할 경우 구조와 데이터 처리 과정을 쉽게 분석할 수 있습니다. 이러한 보안 위협을 해결하기 위해 쿤텍은 AI 모델 자체를 보호하는 난독화 기술과 코드 오염 분석 기술을 개발 중입니다. 이들은 모델의 중요한 정보가 외부로 유출되는 것을 방지하고, AI 모델이 정상적으로 기능할 수 있도록 지원하는 데 중점을 두고 있습니다.

쿤텍이 개발한 모델 난독화 기술은 MLIR(Multi-Level Intermediate Representation) 형태로 AI 모델을 변환하고, 여러 난독화 기능을 패스 단위로 적용하는 방식을 채택하고 있습니다. 이를 통해 모델 파일에 포함된 연산자 종류, 파라미터, 텐서 형상 및 그래프 연결 관계를 변형하여 외부 분석자가 실제 모델 구조를 파악하기 어렵도록 설계되었습니다. 주요 기술로는 비식별화, 매개변수 캡슐화, 신경 구조 난독화, 그래프 구조 난독화 등이 있으며, 이러한 기술들이 결합되어 모델의 보안을 한층 더 강화하고 있습니다.

데이터 흐름 분석으로 AI 보호 대상 식별

또한 쿤텍은 오염 분석 기반의 AI 응용 프로그램 데이터 흐름 분석 기술도 함께 개발하고 있습니다. AI 응용 프로그램에는 모델 호출뿐만 아니라 전처리, 후처리 및 파일 처리 등의 다양한 코드가 포함되어 있습니다. 따라서 AI 추론과 관련된 부분을 정확하게 식별하기 위한 과정이 필요합니다. 쿤텍은 C/C++ 기반 AI 응용 프로그램을 LLVM IR로 변환하고, TFLite API를 기준으로 데이터가 전달되는 과정을 추적하는 기술을 구현했습니다. 이를 통해 함수 이름과 같은 단순한 패턴이 아닌 실제 데이터 의존 관계를 기반으로 AI 추론에 관여하는 코드를 자동으로 식별할 수 있습니다.

이 두 가지 기술은 앞으로 쿤텍이 온디바이스 환경에서 프로그램 전체가 아닌 핵심 코드와 정보를 선택적으로 보호하는 데 중요한 역할을 할 것으로 기대됩니다.

향후 전망

쿤텍은 이러한 난독화 기술과 데이터 흐름 분석 기술을 통해 AI 모델의 보안성을 높이는 한편, 실제 제품 환경에 적용할 수 있는 온디바이스 AI 정보 보호 기술을 확립해 나갈 계획입니다. 방혁준 대표는 “AI 모델 난독화 기술과 데이터 흐름 기반의 보호 대상 식별 기술을 함께 고도화하여, 더욱 안전한 온디바이스 AI 환경을 조성할 것”이라고 밝혔습니다. 이는 기술의 발전과 함께 데이터 보안 문제를 해결하기 위한 필수적인 방향이라는 점에서 큰 의미를 갖습니다.