앤트로픽, ‘모델 증류’ 방어선 구축...거부된 클로드 요청도 과금

앤트로픽, AI 모델 보호 위한 새로운 과금 정책 도입

최근 앤트로픽이 자사의 AI 모델인 클로드(Claude)의 안전성을 강화하기 위해 새로운 과금 체계를 도입한다고 발표했다. 이는 안전장치를 우회하려는 '모델 증류 공격'에 대응하기 위한 조치로, 일반 사용자에게는 다소 생소할 수 있는 개념이다. 이번 정책의 핵심은 안전장치에 의해 차단된 요청에도 요금이 부과된다는 점이다. 앤트로픽은 이를 통해 대규모 요청을 통한 모델 증류 시도를 억제하겠다는 의지를 보이고 있다.

모델 증류 공격과 그 위험성

모델 증류 공격이란, 강력한 AI 모델에 반복적으로 질의를 던져 해당 모델의 응답을 수집하고 이를 통해 다른 모델을 학습시키는 방식이다. 공격자는 이 방법을 통해 기존 모델의 지식과 능력을 모방하는 새로운 모델을 만들 수 있다. 특히 클로드와 같은 고급 AI 시스템은 이러한 공격에 취약할 수 있으며, 이는 기업의 지적 재산권과 기술적 우위를 위협하는 요소가 된다. 앤트로픽은 최근 몇 주 동안 자사 시스템에 대한 조직적인 공격을 감지하고, 이에 대한 방어책으로 이번 과금 정책을 마련했다고 설명했다.

새로운 과금 정책의 구체적인 내용

앤트로픽은 24일부터 클로드가 응답하기 전에 안전장치에 의해 거부된 요청 중 주요 위험 정책 범주에 해당하는 질의에 대해 요금을 부과하기 시작했다고 밝혔다. 이러한 요청은 사용자의 정상적인 작업을 방해하지 않도록 분류기가 조정되어 있으며, 오탐률은 0.1% 미만으로 유지되고 있다. 그러나 앤트로픽은 오탐 가능성이 완전히 사라진 것은 아니며, 이를 지속적으로 개선해 나갈 계획이라고 전했다.

안전 분류기가 요청을 거부할 경우, 과거와 달리 단순히 오류 코드가 아닌 HTTP 200 응답과 함께 정지 사유를 반환하게 된다. 이는 사용자에게 보다 명확한 정보를 제공하기 위한 조치로, 사용자는 거부된 요청의 정책 영역을 확인할 수 있다. 특히 사전 출력 거부의 경우, 특정 위험 범주에 해당할 경우 입력 토큰 비용만 청구되며, 일반 범주에 대해서는 요금이 부과되지 않는다. 이는 사용자가 보다 안전하게 AI를 활용할 수 있도록 돕기 위한 장치로 볼 수 있다.

향후 전망과 의미

이번 앤트로픽의 조치는 AI 모델 보호와 지식 유출 방지에 대한 중요한 이정표가 될 것으로 보인다. 기업들은 AI 모델의 안전성을 강화하기 위해 다양한 방법을 모색하고 있으며, 이러한 과금 정책은 모델 증류 공격과 같은 새로운 유형의 위협으로부터 자사를 방어하는 데 큰 역할을 할 것으로 기대된다. 또한 앤트로픽은 이 정책을 통해 고객들이 보다 신뢰할 수 있는 환경에서 AI를 이용할 수 있도록 지속적으로 노력할 것임을 밝혔다. 앞으로도 AI 기술이 발전함에 따라, 이러한 안전장치와 과금 정책은 더욱 중요해질 전망이다.