앤트로픽 "중국 AI, 다크웹서 도난 카드로 클로드 무단 증류" 폭로

앤트로픽, 중국 AI 기업의 불법 접근 폭로

최근 인공지능(AI) 분야의 주요 기업인 앤트로픽이 중국을 비롯한 일부 해외 AI 기업들이 자사의 AI 모델 '클로드'에 불법적으로 접근하고 있다는 주장을 제기해 이목이 집중되고 있다. 클로드는 앤트로픽의 고급 AI 모델로, 이 모델에 대한 무단 접근과 정보 수집이 다크웹을 통해 이뤄지고 있다는 것이 앤트로픽의 설명이다.

다크웹의 불법 생태계

앤트로픽의 위협정보 책임자인 제이콥 클라인은 CNBC와의 인터뷰에서 "클로드를 포함한 AI 모델에 대한 불법적인 접근이 존재한다"며, 공격자들이 대규모 가짜 계정을 생성해 서비스에 접속하고 있다고 밝혔다. 클라인은 이러한 행위를 단순한 경쟁으로 보지 않고, 기술 탈취라는 심각한 범죄 행위로 간주하고 있다.

특히 클라인은 다크웹이 단순히 불법 정보가 거래되는 공간에 그치지 않고, 미국의 AI 기술에 접근하기 위한 우회로로 기능하고 있음을 강조했다. 그는 "일부 국가에서는 클로드 사용이 제한되거나 전혀 허용되지 않지만, 이들 조직이 다크웹에서 거래되는 도난 신용카드 정보와 탈취된 AI 계정을 이용해 앤트로픽의 서비스에 접근하고 있다"고 말했다.

무단 증류의 메커니즘

이러한 불법 접근 방식의 핵심은 '무단 증류(distillation)'라는 기술적 프로세스다. 무단 증류란, 기존의 AI 모델에서 생성된 대량의 데이터를 수집해 저렴한 비용으로 경쟁 모델을 만드는 과정이다. 공격자들은 대량의 질문을 클로드에 던지고, 그로부터 얻은 답변을 자체 AI 모델 학습에 활용한다. 이 과정에서 원래의 교사 모델인 클로드가 생성한 방대한 양의 데이터가 무단으로 사용된다.

앤트로픽은 이러한 무단 접근이 수만 개에서 수십만 개에 이르는 가짜 계정을 통해 이루어지고 있다고 설명했다. 공격자들은 이처럼 대규모 계정과 분산된 IP 네트워크를 활용해 정상 사용자처럼 보이도록 트래픽을 위장하는 방법으로 시스템의 감시를 우회하고 있다. 이는 일종의 '두더지 잡기'와 같은 상황을 야기해, 한 계정을 차단하더라도 새로운 계정이 즉시 생성되어 계속해서 공격이 이어지게 된다.

글로벌 보안 위협

앤트로픽의 이러한 주장에 따르면, 중국 시장에서의 불법적인 증류 행위는 단순히 국지적인 문제가 아니라 글로벌한 위협이다. 사이버 보안 전문가들은 이란, 러시아, 북한 등 다른 국가에서도 미국 기업의 AI 서비스에 대한 제한을 우회하기 위한 유사한 시도가 발생할 가능성이 있다고 경고하고 있다.

앤트로픽은 현재 공격의 규모와 빈도를 줄이는 데 중점을 두고 있으며, 불법적인 접근을 완전히 차단하는 것은 현실적으로 어렵지만, 그 속도를 늦추는 것이 중요하다고 강조했다. 이러한 상황은 AI 기술의 발전과 함께 더욱 복잡해질 전망이다.

AI 기술이 발전함에 따라 그에 따른 사이버 보안 위협 역시 증가하고 있다. 기술이 발전하는 만큼, 그에 대한 보호 수단도 함께 강화되어야 할 필요성을 느끼게 하는 사건이라 하겠다. 앞으로도 AI 기술의 안전한 활용을 위해 각 기업과 정부 차원에서의 노력이 절실히 요구된다.