비드래프트, ‘인과 누설’ 실증 논문서 AX-RAY로…보안 파운데이션 모델 검증 기술로 확장

비드래프트, AI 모델의 안전성 검증을 위한 혁신적인 접근법 공개

비드래프트(대표 김민식)가 자사의 AI 안전성 진단 시스템인 ‘AX-RAY’를 통해 공개 AI 모델의 구조적 결함을 발견하는 혁신적인 연구 성과를 발표했다. 이 기술은 최근 공개된 논문에서 제시된 새로운 접근법을 바탕으로 하며, 정부의 ‘사이버 보안 특화 AI 파운데이션 모델 개발’ 사업에도 적용될 예정이다. 비드래프트는 AI 모델의 안전성을 검증하는 데 있어 기존 방법보다 한층 더 나아간 기술적 혁신을 이루었다고 밝혔다.

인과 누설을 탐지하는 AX-RAY의 진단 기술

비드래프트의 연구팀은 AI 모델이 미래 정보를 현재의 계산에 사용하는 ‘인과 누설(Causal Leakage)’ 현상을 진단하기 위해 새로운 방법론을 개발했다. 이 방법은 자기회귀 모델이 정상적으로 작동할 때 미래 위치의 정보가 앞선 계산에 영향을 미치지 않아야 한다는 원칙에 기반하고 있다. 연구진은 입력을 순전파하며 각 층의 내부 표현을 비교함으로써, 인과성이 침해되는 층을 특정할 수 있는 기술을 확보했다.

이 새로운 진단 방법은 192건의 인과 결함을 인위적으로 주입한 실험에서 기존의 검사 방법이 탐지하지 못한 모든 결함을 정확하게 찾아냈다. 특히, 엔비디아의 ‘네모트론-H-8B’와 자이프라의 ‘잠바2-1.2B’ 모델에서 인과 누설 현상을 확인한 사례는 이 진단 기술의 신뢰성을 더욱 높이는 계기가 되었다.

AX-RAY와 AI 안전성 검증의 중요성

비드래프트는 AX-RAY가 단순히 AI 모델의 성능을 평가하는 것을 넘어, 모델이 실제로 의도한 대로 작동하는지를 검증하는 시스템이라고 강조했다. AI 모델이 높은 벤치마크 점수를 기록하더라도, 구조적 결함이 존재하면 모델의 신뢰성이 크게 떨어질 수 있다는 점을 지적했다. 이러한 인과적 정확성을 검증하는 것은 AI 기술이 실제 환경에서 안전하게 운영될 수 있도록 보장하는 데 필수적이다.

김민식 대표는 “AI 모델이 단순히 성능이 좋은 것에 그쳐서는 안 된다”며, “모델이 원래 설계된 인과구조를 유지하는지에 대한 검증이 반드시 필요하다”고 말했다. AX-RAY는 이러한 검증 과정을 통해 AI 모델의 구조적 안전성을 계측할 수 있는 기술적 근거를 마련하고 있다.

미래의 AI 모델 안전성 검증 방향

비드래프트는 현재 정부의 사이버 보안 관련 공모 사업에 참여하고 있으며, AX-RAY를 핵심 안전성 검증 기술로 제시하고 있다. 이는 보안 특화 AI 모델 개발에서 인공지능의 공격 탐지 능력뿐만 아니라, 구조적 결함이나 예상하지 못한 위험 경로의 검증이 동등하게 중요하다는 것을 강조한다.

비드래프트의 연구 성과는 단순한 기술 개발을 넘어, AI 안전성의 새로운 기준을 제시하고 있다. 향후 이 기술이 다양한 산업에 적용되어 AI 모델의 안전성과 신뢰성을 높이는 데 기여할 것으로 기대된다. 비드래프트는 AI 모델의 성능 최적화와 안전성 검증을 동시에 추구함으로써, AI 기술의 미래를 더욱 밝게 만들어갈 계획이다.