[기고] 딥페이크 영상을 올린 유튜버는 AI 기본법을 위반한 것인가

요즘 유튜브에서 반려동물이 등장하는 콘텐츠가 큰 인기를 끌고 있습니다. 특히, 귀여운 고양이와 강아지들이 펼치는 소동은 시청자들에게 웃음을 주며 많은 관심을 받고 있죠. 하지만 최근 한 유튜버가 올린 딥페이크 영상이 논란이 되고 있습니다. 이 영상은 고양이가 음식을 쏟고 집사가 등장해 “누가 그랬냐”라며 개를 지목하는 장면을 담고 있습니다. 이러한 내용은 매우 재미있고 신기하지만, 알고 보니 AI 기술로 만들어진 딥페이크라는 사실이 알려지면서 시청자들의 반응은 달라졌습니다. 과연 이 유튜버는 AI 기본법을 위반한 것일까요?

AI 기본법, 무엇인가?

올해 1월부터 시행된 AI 기본법은 인공지능 시스템이 생성한 콘텐츠에 대한 명확한 고지를 요구하고 있습니다. 이 법의 목적은 시청자들이 인공지능으로 생성된 콘텐츠를 쉽게 인식할 수 있도록 하여, 불법적인 사용이나 오해를 방지하는 것입니다. 법에 따르면, AI를 통해 생성된 음향, 이미지, 영상 등은 사용자가 명확히 인식할 수 있는 방식으로 고지해야 하며, 이를 어길 경우 최대 3000만 원의 과태료가 부과될 수 있습니다.

그러나 AI 기본법은 고지 의무를 ‘인공지능사업자’에게만 적용하고 있습니다. 인공지능사업자는 인공지능 제품이나 서비스를 개발하고 제공하는 주체로 정의되는데, 여기서 유튜버가 만든 딥페이크 영상은 AI 제품이나 서비스로 보기 어렵습니다. 즉, 단순히 AI 기술을 활용해 콘텐츠를 제작한 유튜버가 법을 위반했다고 보기는 힘든 상황입니다.

유튜버와 AI 사업자의 경계

그렇다면 이 유튜버가 딥페이크 영상을 올릴 경우 문제는 없는 것일까요? 여기서 중요한 점은 AI 생성물이 아닌, AI를 활용해 만든 콘텐츠라는 점입니다. 유튜버가 딥페이크 영상을 제작한 소프트웨어가 인공지능 사업자라면 이야기는 달라집니다. 소프트웨어 개발자는 AI 기본법을 준수해야 하며, AI 생성물이라는 사실을 명확히 표시해야 할 의무가 있습니다. 따라서 소프트웨어 개발자는 영상 제작 시 워터마크를 포함시키거나, 이러한 내용을 약관에 명시해야 할 필요성이 있습니다.

하지만 현재 법에는 유튜버가 AI 소프트웨어로 제작한 영상에서 이러한 표시를 제거하는 것을 규제하는 조항이 없어, 법적 공백이 존재합니다. 이러한 이유로 유튜버가 워터마크를 제거한 경우에도 법적 제재를 받지 않게 됩니다. 이는 향후 AI 콘텐츠에 대한 규제와 정책이 보완되어야 할 필요성을 시사합니다.

기술 정책의 필요성

AI 기술의 발전과 함께 딥페이크와 같은 콘텐츠가 점점 더 많아지고 있습니다. 이에 따라 유튜브와 같은 플랫폼 운영자들은 AI 생성물에 대한 표시 정책을 도입하고, AI 생성물을 탐지하는 기술을 활용하는 방안을 검토해야 할 것입니다. 또한, 소프트웨어 제공자는 이용자에게 AI 생성물 표기를 유지하도록 의무를 부여하고, 위반 시 책임 분담의 기준을 마련하는 것도 중요합니다.

결국 AI 기술을 활용한 콘텐츠가 증가하는 시대에는 법과 정책이 기술 발전에 맞춰 변화해야 합니다. 이는 소비자의 신뢰를 구축하고, 인공지능 기술의 올바른 사용을 촉진하기 위해 필수적입니다. 향후 이러한 변화가 어떻게 이루어질지, 그리고 유튜버와 AI 사업자 간의 경계가 어떻게 설정될지 주목해야 할 시점입니다.