앤트로픽, '클로드' 생성 콘텐츠에 눈에 안 보이는 ‘투명 워터마크’ 도입

앤트로픽, 클로드에 눈에 보이지 않는 워터마크 시스템 도입

최근 앤트로픽이 자사의 생성 AI 모델인 클로드에 눈에 보이지 않는 워터마크 시스템을 도입한다고 발표했습니다. 이 조치는 유럽연합(EU)의 AI 법(AI Act) 규제를 준수하기 위한 것으로, 클로드가 생성하는 콘텐츠의 출처를 추적하고 사실 여부를 검증하는 데 큰 변화를 가져올 전망입니다.

투명성 확보를 위한 새로운 기술

앤트로픽은 10일(현지시간) 발표를 통해, 8월 2일 이후 출시되는 신규 클로드 모델에서 이 보이지 않는 워터마크 기술을 적용하기 시작한다고 밝혔습니다. 이 시스템은 클로드 웹, 앱 서비스는 물론, 개발자용 API와 다양한 클로드 제품군 및 클라우드 플랫폼에서도 적용될 예정입니다. 특히 AWS, 구글 클라우드, 마이크로소프트 파운드리와 같은 제3자 클라우드를 통해 생성된 모델 출력물에도 이 워터마크가 삽입될 것입니다.

워터마킹 기술은 두 가지 방식으로 구현됩니다. 첫 번째는 텍스트 출력 단계에서 생성되는 고유의 패턴을 심어, 사용자가 읽을 때는 전혀 감지할 수 없지만, 복사 및 편집 시에도 원본 콘텐츠의 식별 신호를 남기는 방식입니다. 두 번째는 이미지나 파일 형태에 C2PA(콘텐츠 출처 및 진위 확인 규격) 기반의 디지털 서명 메타데이터를 추가하여, 파일의 변경이나 위변조 여부를 확인할 수 있게 합니다. 이러한 방식은 콘텐츠의 진정성과 출처를 확인하는 데 필수적인 역할을 할 것으로 기대됩니다.

EU AI 법의 영향과 기업의 책임

이번 워터마크 도입은 EU AI 법 제50조 2항에 명시된 생성 AI 투명성 가이드라인을 준수하기 위한 조치입니다. 이에 따라 기업들은 사용자가 AI 시스템과 상호작용할 때 이를 명확히 인지할 수 있도록 해야 하며, AI가 생성한 콘텐츠에 대한 라벨링이 필수화되었습니다. 규정을 위반할 경우 최대 3%의 연간 매출 또는 1500만 유로(약 250억 원) 중 높은 금액의 벌금을 부과받게 됩니다.

하지만 앤트로픽은 워터마크의 존재만으로는 콘텐츠의 실제 작성자를 판단하기 어려운 점도 지적했습니다. 사용자가 직접 작성한 내용을 클로드에 입력해 교정이나 요약, 번역을 진행할 경우에도 워터마크가 삽입될 수 있으며, 텍스트가 짧거나 문장이 완전히 재작성된 경우에는 추적이 어려울 수 있다고 밝혔습니다.

미래를 향한 발걸음

앤트로픽은 향후 외부 사용자와 제3자가 텍스트 및 파일 내 워터마크를 검증할 수 있는 세부 감지 기술 표준과 가이드라인을 추가로 공개할 계획입니다. 이는 콘텐츠 사용의 투명성을 더욱 강화하고, 사용자가 AI 생성 콘텐츠에 대해 신뢰할 수 있는 환경을 조성하는 데 기여할 것으로 보입니다.

이번 조치는 생성 AI의 발전과 함께 콘텐츠의 신뢰성을 확보하고, 규제 준수에 대한 기업의 책임을 더욱 강조하는 계기가 될 것입니다. AI 기술이 계속해서 발전함에 따라, 이러한 투명한 시스템이 더욱 중요해질 것으로 예상됩니다.