앤트로픽, 중국 'GLM-5.3' 해킹 위험성 경고..."클로드 미소스와 맞먹는 능력"

앤트로픽, GLM-5.3의 해킹 위험성과 성능 경고

최근 인공지능(AI) 기술의 발전이 가속화됨에 따라, 사이버 보안 분야에서도 새로운 위협이 대두되고 있다. 특히, 앤트로픽이 최근 발표한 보고서에 따르면 중국의 오픈웨이트 모델인 'GLM-5.3'이 강력한 해킹 능력을 지닌 것으로 나타났으며, 이는 전문가들이 보유한 사이버 공격 능력과도 대등한 수준에 이르렀다고 한다. 앤트로픽은 이 모델이 안전장치의 취약점으로 인해 악의적인 공격자에게 악용될 가능성이 크다고 경고했다.

GLM-5.3의 사이버 공격 능력

앤트로픽의 보고서에 의하면 GLM-5.3은 자율적으로 엔드투엔드 사이버 익스플로잇을 개발할 수 있는 능력이 크게 향상되어, 지난 4월 공개된 '클로드 미소스 프리뷰'와 유사한 수준에 도달했다고 한다. 구체적으로, GLM-5.3은 크롬 V8 엔진의 취약점을 공략하는 테스트에서 410번의 시도 중 50건에서 실제 익스플로잇을 성공적으로 완료한 것으로 알려졌다. 이는 미소스 프리뷰의 56건과 비슷한 성과로, 기존 모델인 GLM-5.2와 클로드 오퍼스 4.6에서는 전혀 성공 사례가 없었다는 점에서 GLM-5.3의 성능이 매우 두드러진다고 할 수 있다.

또한, 앤트로픽은 GLM-5.3이 내부 바이너리 익스플로테이션 테스트에서도 100개 과제 중 4%에서 완전한 제어 흐름 탈취에 성공했음을 밝혔으며, 이는 미소스 프리뷰의 6%와 근접한 수치다. 이처럼 GLM-5.3은 강력한 공격 능력을 지니고 있지만, 보다 심각한 문제는 이 모델의 안전장치가 상대적으로 취약하다는 점이다.

안전장치의 취약성과 우회 방법

GLM-5.3은 Z.ai라는 AI 모델을 통해 일부 유해 요청을 거부하도록 설계되었지만, 앤트로픽은 간단한 우회 기법만으로 이를 상당 부분 무력화할 수 있다고 경고했다. 특히, 오픈웨이트 모델이라는 특성 덕분에 모델의 가중치를 수정하여 거부 기능을 제거하는 '소멸(abliteration)'이 가능하다는 점에서 더욱 우려스러운 상황이다. 앤트로픽이 직접 수정한 GLM-5.3의 경우, 유해 요청에 대한 거부율이 90% 이상에서 일부 테스트 기준 약 3% 수준까지 떨어진 것으로 나타났다.

이외에도 시뮬레이션 환경에서는 특정 우회 방식에 따라 악의적인 사이버 공격 요청에 응한 비율이 64%에서 100%까지 올라가는 현상이 관찰됐다. 이는 실제로 전문가들이 테스트한 샌드박스 환경에서도 기존에 알려지지 않은 브라우저 취약점을 찾아 연결한 익스플로잇 사례가 발견된 만큼, GLM-5.3의 해킹 능력은 단순한 이론에 그치지 않고 실제로도 적용 가능하다는 것을 시사한다.

향후 전망과 필요성

앤트로픽은 GLM-5.3과 같은 오픈웨이트 모델에서 이 정도의 사이버 능력이 확보된 점에 주목하며, 앞으로 고성능 오픈웨이트 모델에 대해 정부와 독립 기관이 별도의 안전성 평가를 실시할 필요가 있다고 강조했다. 미국 국립표준기술연구소(NIST) 산하 AI 표준 혁신센터(CAISI)도 GLM-5.3을 공개된 오픈웨이트 모델 중 가장 높은 사이버 능력을 지닌 모델로 평가한 바 있다. 다만, 미국의 최첨단 모델과 비교해 약 4개월 뒤처진 것으로 분석하는 등, 글로벌 사이버 보안 경쟁에서의 위치도 간과할 수 없다.

결론적으로, GLM-5.3의 등장으로 사이버 공격 기술의 경향이 급변할 가능성이 있으며, 이러한 기술들이 악용되지 않도록 보다 철저한 안전 장치와 평가 체계가 필요하다. AI 기술의 발전이 가져올 수 있는 잠재적 위협을 인식하고, 이에 대한 대응 방안을 마련하는 것이 시급한 과제가 되고 있다.