오픈AI, 챗GPT에 '투명 워터마크' 도입… EU만 우선 적용

오픈AI가 챗GPT와 코덱스에 보이지 않는 '투명 워터마크'를 도입하기로 했다. 이번 조치는 유럽연합(EU)의 새로운 AI 규제 법안에 대응하기 위한 것으로, 우선적으로 EU 지역에서 적용될 예정이다. 이는 생성된 콘텐츠의 출처를 명확히 하고, 사용자와 기업 모두에게 보다 투명한 환경을 제공하고자 하는 오픈AI의 노력으로 볼 수 있다.

EU 규제에 따른 새로운 정책

오픈AI는 5일(현지시간) 발표한 내용에서, 오는 몇 주 내에 EU에서 제공되는 모든 요금제의 챗GPT와 코덱스의 텍스트 출력에 워터마크를 적용할 것이라고 밝혔다. 이는 지난 8월 2일 발효된 EU AI 법의 투명성 규정에 부합하는 조치로, AI가 생성한 콘텐츠가 다른 시스템에 의해 쉽게 식별될 수 있도록 지원하는 것을 목표로 하고 있다. 이러한 규정에 맞춰 앤트로픽은 이미 자사의 AI 모델 클로드에 워터마크를 적용한 바 있으며, 이는 사용자들 사이에서 일부 반발을 일으키기도 했다.

오픈AI의 새로운 워터마킹 기술은 ‘텍스트그레인(textGrain)’이라는 방식을 사용한다. 이는 텍스트에 직접적인 표시를 삽입하는 것이 아니라, 모델이 텍스트를 생성하는 과정에서 통계적인 신호를 보이지 않게 삽입하는 방식이다. 이로 인해 텍스트를 복사하여 붙여넣기 하더라도 워터마크의 일부는 유지되며, 전용 탐지기를 통해 해당 신호를 파악할 수 있다. 이러한 방식은 구글의 신스ID와 같은 다른 기술과 비교해도 경쟁력을 갖추고 있으며, 성능 면에서도 긍정적인 평가를 받고 있다.

워터마크 탐지의 한계와 대응

하지만 오픈AI는 워터마크 탐지가 항상 정확한 것은 아니라고 강조하고 있다. 예를 들어, 200토큰 분량의 텍스트에서 허위 양성률을 1%로 설정했을 때, 워터마크 탐지율은 약 80%에 그쳤지만, 400토큰으로 늘어나면 탐지율이 95%로 증가한다. 그러나 단어 선택의 폭이 좁은 수학과 같은 분야에서는 탐지율이 낮아지는 경향이 있다. 텍스트를 수정하게 되면 워터마크의 신호가 약해질 수 있으며, 이로 인해 탐지율이 크게 낮아지는 경우도 발생할 수 있다.

이렇듯 워터마크 탐지기의 정보는 일반 대중에게 공개되지 않고, 승인된 연구자와 전문 기관에만 제공된다. 탐지기는 워터마크의 존재 여부만 판단할 수 있으며, 사용자 개인 정보나 대화 내용을 식별하지 않는다. 오픈AI는 향후 기술 발전에 따라 탐지기의 접근 범위를 확대할 계획을 세우고 있다.

기술의 발전과 미래 전망

오픈AI는 워터마크의 도입이 단순히 AI가 생성한 콘텐츠의 출처를 명확히 하는 것 이상의 의미를 갖는다고 설명한다. 워터마크가 존재한다고 해서 해당 콘텐츠가 인간의 개입 없이 생성되었는지, 또는 소유권과 법적 책임을 판단할 수 있는 것은 아니다. 이는 사용자 신원을 확인하거나 텍스트의 사실 여부를 검증하는 도구 역할을 하지 않는다는 점에서 한계를 지닌다.

더불어 오픈AI는 이미 이미지와 오디오에도 출처 확인 기술을 적용하고 있으며, 다양한 콘텐츠 인증 방법과 탐지 시스템의 결합을 통해 보다 신뢰성 있는 AI 환경을 구축하고자 한다. 오픈AI는 "단일한 출처 확인 기술로는 충분하지 않다"며, 여러 기술과 정책을 통합한 다층적인 접근 방식을 추진할 것이라고 밝혔다.

앞으로 AI 기술이 계속 발전함에 따라, 이러한 워터마크 기술이 더욱 진화하고, 다양한 분야에서의 투명성을 높이는 데 기여할 것으로 기대된다. AI와 관련한 규제가 계속해서 강화되는 가운데, 오픈AI의 이번 조치는 사용자와 기업 모두에게 신뢰할 수 있는 AI 환경을 제공하는 첫걸음이 될 것이다.