영·미 정부 "키미 K3 사이버 공격력 기대 이하"...'증류' 한계 드러냈다

영국과 미국 정부의 최근 공동 연구 결과에 따르면, 중국의 오픈소스 AI 모델인 '키미 K3'는 사이버 공격 수행 능력에서 미국의 최상위 AI 모델들에 비해 크게 뒤처진 것으로 나타났습니다. 이는 갈수록 심화되고 있는 사이버 보안 분야에서의 경쟁력과 관련하여 중요한 인사이트를 제공합니다.

키미 K3의 사이버 공격 능력

영국 과학혁신기술부 산하 AI 안전연구소(AISI)와 미국 상무부 국립표준기술연구소(NIST)에 의해 발표된 보고서에 따르면, 키미 K3는 공개 벤치마크인 '익스플로잇벤치(ExploitBench)'를 통해 평가된 결과, 종합 점수 32.2%를 기록했습니다. 이는 미국의 주요 AI 모델들이 평균 76.2%를 기록한 것에 비해 현저히 낮은 수치입니다.

특히, '임의 코드 실행(Arbitrary Code Execution)' 능력에 있어서는 더욱 두드러진 차이를 보였습니다. 이 공격 방식은 해커가 소프트웨어 시스템의 완전한 제어권을 획득할 수 있는 가장 고급의 공격 형태로, 키미 K3는 평가에 포함된 41개 과제 모두에서 성공하지 못했습니다. 반면, 미국의 선도 AI 모델들은 그 중 20개 과제에서 성공적으로 공격을 수행했습니다.

방어적 AI와 공세적 AI의 격차

이러한 평가 결과는 키미 K3가 방어적 AI 영역에서는 상당한 성과를 보였지만, 공세적 보안 역량에서는 여전히 미국 모델과의 격차가 존재함을 시사합니다. 예를 들어, 키미 K3는 최근 아이키도 시큐리티의 평가에서 주요 AI 모델 중 23개의 보안 취약점을 발견하는 성과를 기록했으나, 사이버 공격 능력에서는 아쉬운 결과를 초래했습니다.

AISI와 NIST의 보고서에 따르면, 키미 K3의 내부 안전장치가 공격적인 사이버 작전의 개발 시도를 효과적으로 차단하지 못했다는 점도 지적되었습니다. 이는 키미 K3가 미국의 모델과 비교하여 사이버 공격 관련 데이터셋의 깊이가 부족했음을 보여줍니다. 미국 AI 모델들은 유해 질문에 대한 응답을 거부하도록 설계되어 있어, 이러한 구조적 차이가 키미 K3의 성능 저하로 이어졌다는 분석이 제기됐습니다.

향후 전망

이번 연구 결과는 중국 AI 모델들이 사이버 보안 분야에서 여전히 많은 발전 가능성이 있지만, 공세적 보안 역량에서는 미국의 경쟁 모델에 비해 뚜렷한 격차가 있음을 나타냅니다. 사이버 공격 및 방어 기술의 발전이 날로 중요해지는 가운데, 키미 K3와 같은 모델들이 향후 어떻게 개선되고 발전할지가 주목받고 있습니다. 기술의 발전 속도가 빠른 만큼, 이 분야의 연구자들은 지속적으로 새로운 전략과 기술을 개발해야 할 것입니다. 이러한 과정을 통해, 사이버 보안의 강화를 위한 더욱 안전한 환경이 조성되기를 기대해봅니다.