중국 암시장에서 '클로드' 10% 가격으로 유통..."모델 증류의 온상"

중국의 암시장에서 AI 모델 '클로드'에 대한 접근 권한이 공식 가격의 10%에 재판매되고 있다는 충격적인 소식이 전해졌습니다. 이로 인해 사용자 데이터가 악용될 가능성이 커지면서 AI 생태계의 안전성에 심각한 위협이 되고 있습니다.

클로드 접근, 90% 할인된 가격으로

앤트로픽의 AI 모델 '클로드'는 전 세계적으로 인정받는 언어 모델 중 하나입니다. 그러나 최근 옥스포드 중국 정책 연구소의 질란 첸 연구원이 폭로한 바에 따르면, 중국의 암시장에서 클로드 API 접근이 불법적으로 판매되고 있습니다. 이들은 깃허브, X, 텔레그램, 타오바오와 같은 플랫폼을 통해 '중계소'라는 이름의 프록시 네트워크를 운영하고 있으며, 이곳에서 90% 할인된 가격으로 클로드 API 서비스에 접근할 수 있는 방법을 제공하고 있습니다.

중계자들은 대량의 가짜 계정을 생성하여 클로드의 무료 체험 크레딧을 악용하거나, 도난당한 신용카드 정보를 사용하여 유료 플랜에 가입한 후 이를 재판매하는 다양한 방법을 동원하고 있습니다. 특히 이들은 클로드의 고급 모델인 '클로드 오퍼스'를 사용자가 요청해도 실제로는 저렴한 모델로 응답을 보내는 등의 사기를 저지르고 있습니다. 이러한 행위는 단순한 가격 할인 이상의 문제를 초래하고 있습니다.

데이터 수집의 악용

첸 연구원은 이번 사건이 단순한 가격 문제를 넘어서는 심각한 보안 위험을 내포하고 있다고 경고합니다. 중계소를 통해 수집된 데이터는 AI 학습용 데이터 세트로 가공되어 다른 기업에 고가에 판매될 수 있습니다. 사용자가 입력한 프롬프트, AI의 응답, 그리고 그 과정에서의 사고 사슬까지 모두 기록되어 다른 AI 모델의 성능 향상을 위한 원료로 쓰일 수 있는 것입니다.

실제로 앤트로픽은 중국에서 발생한 사기성 계정으로 인해 약 1,600만 건의 쿼리가 발생했다는 사실을 확인하였습니다. 이로 인해 중국의 AI 모델들이 비약적으로 발전한 이유 중 하나로 지목되고 있습니다. 그러나 이와 같은 발전은 윤리적이지 않으며, AI 생태계의 신뢰성을 크게 훼손하고 있습니다.

AI 안전 생태계의 위협

이번 사건은 중국과 미국 간의 AI 경쟁을 넘어, AI 모델 제공업체와 사용자 간의 신뢰 문제를 드러내고 있습니다. 앤트로픽은 2025년부터 중국 기업에 대한 클로드 접근을 차단하고 엄격한 검증 절차를 도입해왔지만, 이러한 대응이 오히려 새로운 회피 시장을 형성하는 결과를 가져온 것으로 보입니다.

첸 연구원은 "이러한 프록시 경제는 단순히 AI 모델의 불법 사용에 그치지 않으며, AI 안전 체계의 전체적인 취약점을 드러내고 있다"고 강조했습니다. 삼성전자의 사례처럼, 기밀 소스 코드가 외부 서버로 노출되는 위험이 존재하는 만큼, 보안에 대한 경각심이 더욱 필요합니다.

결론적으로, 중국의 프록시 경제는 AI 모델의 안전성과 신뢰성을 심각하게 위협하고 있습니다. 이러한 상황에서 AI 생태계의 발전은 물론, 사용자 데이터를 보호하기 위한 심도 있는 논의와 조치가 절실히 요구됩니다. AI 기술의 발전이 인류에 긍정적인 영향을 미칠 수 있도록, 우리는 더욱 철저한 규제와 감시 체계를 마련해야 할 때입니다.