[8월13일] 클로드 워터마크 도입에 불붙은 논쟁…"AI가 썼다와 AI가 처리했다는 다르다"

앤트로픽, 클로드에 워터마크 도입…AI 글쓰기 논란 가열

최근 앤트로픽이 자사의 AI 모델인 '클로드'가 생성한 텍스트에 보이지 않는 워터마크를 추가하기 시작하면서 AI 글쓰기를 둘러싼 논란이 뜨겁게 달아오르고 있다. 이 새로운 조치는 AI가 생성한 콘텐츠에 대한 투명성을 높이기 위한 것으로, 많은 사용자들이 이에 대해 다양한 반응을 보이고 있다.

클로드의 워터마크, 왜 논란이 되는가?

앤트로픽은 클로드가 생성한 텍스트에 기계가 식별할 수 있는 신호를 삽입해, 사용자가 복사하거나 편집한 후에도 이를 추적할 수 있도록 설계했다. 이는 유럽연합(EU)의 AI법에 따른 AI 생성물에 대한 투명성 요구에 부응하기 위한 조치로 설명된다. 그러나 사용자들 사이에서는 이 조치가 그들의 개인적인 작업에 미칠 영향에 대한 우려가 커지고 있다. 특히 학교 과제나 직장 문서에 클로드를 사용한 사실이 드러날 경우, 학업이나 직장 내 신뢰도에 부정적인 영향을 미칠 수 있다는 점에서 반발이 일고 있다.

레딧 등 온라인 커뮤니티에서는 ‘AI가 글을 썼는가’와 ‘AI가 글을 처리했는가’라는 두 가지 다른 개념에 대한 논의가 진행되고 있다. 일부 사용자들은 사람이 작성한 문서를 클로드에 넣어 문단을 재구성하거나 요약하는 경우, AI가 글을 썼다고 단정할 수 없으며, 따라서 이 두 가지 경우를 구분해야 한다고 주장하고 있다. 이는 AI의 역할과 사용자 간의 경계가 모호해지고 있음을 시사한다.

AI 활용의 다양성과 그 한계

AI 기술의 발전으로, AI는 이제 학생의 과제뿐만 아니라 다양한 업무 환경에서도 널리 활용되고 있다. 이메일 초안 작성, 회의록 정리, 연구 보고서 작성 등에서 AI의 기여가 증가하고 있는 상황이다. 그러나 이러한 다양한 활용 방식 속에서 AI의 개입 정도와 그에 따른 결과물의 평가 기준은 여전히 논란의 여지가 있다. 예를 들어, 클로드가 작성한 보고서의 내용을 사람이 최종 수정한 경우와 사람의 원고를 AI가 다듬은 경우는 결과물은 같아 보일 수 있지만, AI의 개입 정도는 천차만별이다.

또한, AI 탐지 기술 역시 이런 복잡성을 반영하고 있다. 최근 팡그램이라는 스타트업이 AI가 작성한 이메일 등을 식별하는 기능을 개발하고 있지만, AI가 작성한 문장을 사람이 수정한 경우에도 AI로 판단하는 오류가 발생하고 있다고 보고되고 있다. 이는 AI 사용의 이분법적 접근이 점점 더 복잡해지고 있음을 보여준다.

앞으로의 AI 사용, 새로운 기준이 필요하다

결국, 앤트로픽의 워터마크 도입은 AI가 작성한 콘텐츠에 대한 투명성을 높이려는 노력이지만, 그로 인해 발생하는 다양한 논란은 AI 사용의 경계를 명확히 할 필요성을 보여준다. 사용자들 간의 의견 차이는 클로드의 사용이 개인의 창작물에 미치는 영향을 둘러싼 폭넓은 논의로 이어지고 있다. 앞으로는 'AI를 썼는가'라는 단순한 질문을 넘어, 'AI를 어디까지 썼는가'라는 질문이 더욱 중요해질 것으로 보인다.

AI의 발전과 그 활용이 일상화됨에 따라, 우리는 AI 사용의 경계를 다시 정의하고, 그에 따른 책임과 투명성을 확보해야 할 필요성이 커지고 있다. AI의 역할을 명확히 하고, 사용자들이 어떤 방식으로 AI를 활용했는지를 구분할 수 있는 새로운 기준이 필요할 때이다. 이러한 논의가 앞으로의 AI 환경을 더욱 성숙하게 만드는 밑거름이 되기를 기대한다.