야구장 여신·딸기 불륜 등 AI 콘텐츠 범람..."AI 표시·청소년 보호는 뒷짐"

최근 국내 IT 커뮤니티에서 AI 콘텐츠가 폭발적인 인기를 끌고 있다. 특히, 지난달 출시된 '챗GPT 이미지 2.0'은 실사화된 AI 콘텐츠를 통해 사용자들의 관심을 한 몸에 받고 있으며, 그 결과물의 조회수는 공개 사흘 만에 800만 회를 넘어서기도 했다. 이러한 추세는 '야구장 여신'과 같은 게시물에서 확인할 수 있으며, 2009년의 저화질 수학여행 사진을 재현한 콘텐츠는 과거의 감성을 그대로 담아내 많은 이들의 눈길을 끌었다. 그러나 이러한 콘텐츠의 인기 뒤에는 심각한 문제가 도사리고 있다.

AI 콘텐츠의 규제 미비

현재 AI 기술의 발전에 따른 콘텐츠 생성이 급증하고 있지만, 이에 대한 규제는 여전히 미비한 상황이다. AI 기본법에 따르면, AI 생성물에 대한 투명성 확보 의무는 AI 모델 개발사나 이를 활용해 서비스를 제공하는 사업자에게만 적용된다. 하지만 콘텐츠 제작에 참여하는 유튜버나 크리에이터, 방송사는 단순 이용자로 분류되어 규제 적용 대상에서 제외되고 있다. 이로 인해 AI가 생성한 이미지에 워터마크를 삽입하더라도, 이를 지우거나 잘라내어 재업로드하는 행위는 현행법으로는 제재할 수 없는 상황이다.

이러한 규제의 공백은 사회적 부작용으로 이어질 수 있다. 특히, 최근 인스타그램 등에서는 노출이 과한 AI 여성 인플루언서 계정이 성행하고 있으며, 일부 계정은 고수위 콘텐츠를 유료로 제공하여 수익을 창출하고 있다. 전문가들은 "실제와 구분이 어려운 딥페이크 결과물은 이용자가 명확히 인식할 수 있도록 표시해야 하지만, 개인 계정을 모두 단속하는 것은 현실적으로 어렵다"라고 우려를 표명했다.

윤리성 논란과 사회적 파장

AI 콘텐츠의 윤리성에 대한 논란도 끊임없이 이어지고 있다. 최근 한 치킨 프랜차이즈는 과일을 의인화하여 불륜을 소재로 한 AI 콘텐츠가 유행하자 이를 마케팅에 활용했다가 사회적 비판을 받았다. 결국 해당 업체는 공식 사과문을 발표하게 되었고, 이는 자극적인 콘텐츠가 청소년에게 무분별하게 노출되고 있다는 사실을 다시금 부각시켰다.

업계 관계자는 "AI 콘텐츠가 알고리즘을 통해 청소년들에게 쉽게 노출되면서 또 다른 사회적 문제로 자리 잡고 있다"며 "특히 윤리적 기준과 규제를 마련하는 것이 시급하다"라고 강조했다. 현재의 AI 법안은 산업 육성에 초점을 맞추고 있지만, 누구나 AI 콘텐츠 생산자가 될 수 있는 현실을 반영한 안전망은 턱없이 부족하다는 지적이 이어지고 있다.

미래에 대한 고민

AI 콘텐츠의 급속한 확산은 우리 사회에 많은 변화를 가져오고 있지만, 동시에 많은 문제를 야기하고 있다. 특히 청소년 보호와 관련된 이슈는 결코 간과할 수 없는 중요한 사안이다. 전문가들은 "디지털 성범죄 예방 및 가짜 뉴스 확산 방지를 위한 규제 보완이 필요하다"라며, AI 기술의 발전과 함께 사회적 책임도 뒤따라야 함을 강조하고 있다.

결국 AI 기술은 앞으로도 계속 발전할 것이며, 이에 대한 규제와 윤리적 기준 수립은 필수적이다. 사회가 이러한 변화에 적절히 대응하지 못한다면, AI 콘텐츠의 범람은 단순한 유행을 넘어 심각한 사회적 문제로 이어질 수 있다. AI의 혜택을 누리면서도 그로 인해 발생하는 부작용을 최소화하기 위한 노력이 절실히 요구되는 시점이다.