앤트로픽, 중국 기업 '무단 증류' 폭로…"프록시 타고 클로드 우회 복제"

앤트로픽, 중국 AI 기업의 클로드 무단 활용 폭로

최근 앤트로픽이 발표한 위협 인텔리전스 보고서는 중국의 일부 AI 기업들이 자사의 AI 모델 '클로드'를 무단으로 활용해 핵심 기능을 복제하려는 시도가 있었음을 폭로했다. 이들 기업은 제3자 프록시 네트워크와 가짜 계정을 통해 접근 제한을 우회하며, 고객의 요청을 악용해 클로드의 지식과 기술을 수집한 정황이 드러났다. 이러한 상황은 AI 기술의 지적재산권 문제를 심각하게 부각시키고 있으며, 국제적인 기술 갈등으로 번질 가능성을 내포하고 있다.

클로드의 무단 증류 및 프록시 네트워크

앤트로픽은 2023년 9월 보고서를 통해 지난 2월 이후 중국 본토의 여러 AI 연구소가 자사 모델의 특징을 복제하기 위한 무단 증류 캠페인을 감지했다고 밝혔다. 이 과정에서 클로드의 다양한 기능, 예를 들어 에이전트 기능과 도구 사용, 코딩 능력, 데이터 분석 및 논리적 추론 등이 표적이 되었으며, 이러한 기능들은 고성능 AI 모델의 핵심 요소로 간주된다.

가장 큰 사례로는 글로벌 IT 기업 알리바바와 연계된 조직이 지목됐다. 이들은 3500개 이상의 가짜 계정을 통해 1억5100만 건 이상의 클로드와의 교환을 시도한 것으로 나타났다. 이러한 방식으로 축적된 데이터는 알리바바의 AI 모델 '큐원(Qwen)'의 성능 향상에 활용됐던 것으로 분석된다. 이 외에도 문샷 AI와 딥시크 등 다른 기업들도 유사한 방식으로 클로드의 요청을 전달하며 정보를 수집한 정황이 포착됐다.

개인정보 보호의 심각한 위협

이번 사건의 심각성은 단순한 기술적 복제를 넘어 사용자 개인정보 보호와 관련된 문제로 확장되고 있다. 앤트로픽은 2300만 건이 넘는 요청이 클로드로 전달되었으며, 이러한 요청 속에는 민감한 정보가 포함되어 있었던 것으로 추정하고 있다. 특히, 청두 지역에서의 CCTV 영상 데이터가 특정 인물의 이상행동을 분석하기 위해 입력되었다는 사실은 더욱 우려를 낳고 있다. 이러한 데이터에는 국유기업 및 군 관련 시설의 정보가 포함되어 있어 보안 문제로 이어질 수 있다.

또한, 중국 AI 기업들이 프록시 서비스를 통해 사용자 데이터를 무단으로 수집하고 판매하는 방식이 드러나면서, 새로운 데이터 거래 생태계가 형성되고 있음을 시사하고 있다. 일부 기업들은 이러한 서비스를 통해 일반 사용자에게 미국 AI 모델에 접근할 수 있는 기회를 제공하는 동시에 대화 기록을 타 기업에 판매하는 정황이 포착되었다.

향후 전망과 국제적 갈등

앤트로픽의 보고서는 단순한 기술적 문제를 넘어서, 지적재산권 침해와 개인정보 보호 문제로 이어지는 국제적인 갈등을 야기할 수 있는 사건으로 평가된다. 미국 정부는 이러한 사례를 바탕으로 중국의 AI 기업들에 대한 기술 제재를 강화할 필요성을 논의하고 있으며, 이는 양국 간의 안보 및 기술 갈등을 심화시킬 가능성을 내포하고 있다.

앤트로픽은 이러한 상황을 극복하기 위해 비정상적인 계정 활동을 탐지하고, 무단 증류가 의심되는 계정을 차단하는 시스템을 강화하고 있다. 앞으로 클로드의 내부 추론을 요약 형태로 제공하는 방안도 도입할 예정이라고 밝혔다. 이 같은 조치는 사용자 데이터를 보호하는 데 큰 기여를 할 것으로 기대된다.

AI 기술의 발전은 막대한 잠재력을 지니고 있지만, 그 이면에는 개인정보 보호와 지적재산권 문제라는 복잡한 이슈가 존재한다. 앞으로 이러한 문제를 해결하기 위한 논의와 조치가 더욱 활발히 이루어질 필요가 있다.