최대선 센터장 "사이버보안 특화 모델 AI 기본법 사각지대...기준 마련 시급"

최대선 센터장, 사이버보안 AI 모델의 법적 기준 미비 지적

AI 기술이 급속도로 발전하고 있는 현재, 그 기술의 안전성을 보장하는 법적 체계의 정비가 시급하다는 목소리가 높아지고 있다. 숭실대학교 AI안전성연구센터의 최대선 센터장은 최근 열린 'AI 개발 속도조절론' 세미나에서 정부 주도의 '사이버보안 특화 AI 파운데이션 모델'이 기존의 AI 기본법의 관리 체계에서 벗어나 있으며, 이에 대한 명확한 기준 마련이 필요하다고 강조했다.

사이버보안 AI 모델의 법적 사각지대

최대선 센터장은 특히 사이버보안 분야에서 사용되는 AI 모델이 현재의 AI 기본법에 의해 제대로 규제되지 않고 있다고 지적했다. 고영향 AI 범주에 사이버보안이 포함되지 않아 이러한 모델들은 안전성 확보 의무에서 제외되고 있는 상황이다. 그는 "사이버보안 특화 모델이 정작 심각한 위험을 초래할 수 있음에도 불구하고, 법적 기준이 모델의 연산량에만 초점을 맞추고 있다"고 설명했다.

실제로 현재의 기준은 누적 연산량이 10^6 FLOP(부동소수점 연산 속도 단위) 이상인 경우에만 해당 모델이 규제 대상에 포함된다. 그러나 소형 로컬 모델이 AI 에이전트를 포함할 경우 프런티어급 성능을 발휘할 수 있는 가능성이 존재하는 만큼, 단순한 연산량 지표로는 위험을 정확히 측정하기 어렵다는 것이다.

평가 체계의 재정립 필요성

또한, 최대선 센터장은 현재의 AI 평가 체계가 단일 모델과 개발사의 자체 평가에 치우쳐 있다고 비판하며, "외부에서 독립적으로 AI 시스템을 평가할 수 있는 체계가 필요하다"고 덧붙였다. 그는 다중 에이전트 조율 평가와 같은 새로운 평가 방식이 필요하며, 이는 한국이 선도할 수 있는 분야라고 주장했다.

현재 국내에서는 사이버보안 취약점을 찾아 대응할 수 있도록 오픈소스 기반의 보안 특화 모델을 공개할 계획이 진행 중이지만, 이러한 모델이 악용되지 않도록 하는 구체적 기준은 여전히 미비한 상태다. 최대선 센터장은 "해외에서는 하드웨어 보안 키를 통해 사용을 제어하는 등의 조치를 취하고 있지만, 국내에서는 이런 접근 정책이 부족하다"고 지적했다.

향후 방향과 제언

마지막으로 최대선 센터장은 AI 모델의 위험성을 제대로 측정하고, 이를 관리할 수 있는 법적 체계의 필요성을 강조했다. 그는 단기적으로 고시와 사업 지침을 통해 정지 권한자를 지정하고, 사고 정의 및 정부 지원 모델의 공개 기준을 마련해야 한다고 주장했다. 중장기적으로는 고영향 AI 영역을 추가하고 제32조의 능력 기준을 도입하는 것이 필요하다고 강조했다.

그는 "AI의 진정한 위험은 그 능력 그 자체가 아니라, 그 능력을 제대로 측정하지 못하는 것"이라며, "지금부터 누가, 어떤 용도로 AI를 사용할 것인지에 대한 규제가 필요하다"고 말했다. 이러한 제언이 실제 정책에 반영된다면, 사이버보안 분야에서의 AI 활용이 보다 안전하고 신뢰할 수 있는 방향으로 나아갈 수 있을 것으로 기대된다. AI가 우리의 삶을 더욱 편리하게 만드는 동시에 그 안전성을 보장하기 위한 법적 기준의 정립이 시급한 이유가 여기에 있다.