국감서 "AI 캐릭터 챗봇, 청소년 보호 구멍" 지적...규제 급물살 타나

AI 캐릭터 챗봇의 청소년 보호 문제, 국정감사서 주요 이슈로 부각

최근 국정감사에서 AI 캐릭터 챗봇의 청소년 유해 콘텐츠 노출 문제가 심각하게 다루어졌다. 이에 따라 관련 규제 법제화가 가속화될 것으로 보인다. 국회의원들은 청소년들이 AI 서비스를 이용하면서 겪을 수 있는 다양한 문제들을 지적하며, 이를 해결하기 위한 구체적인 대책 마련을 촉구했다. 이 문제는 특히 스캐터랩의 AI 캐릭터 챗봇 서비스인 ‘제타’를 사례로 들어 논의되었다.

청소년과 AI의 위험한 만남

12일 열린 국회 과학기술정보방송통신위원회의 국정감사에서 이주희 더불어민주당 의원은 청소년들이 AI 챗봇을 사용할 때 접할 수 있는 선정적이거나 유해한 콘텐츠의 위험성을 경고했다. 특히, 스캐터랩의 제타가 청소년 보호 기준을 준수하지 못하고 있다는 점이 지적되었으며, 이로 인해 청소년에게 노출되는 유해 콘텐츠의 범위가 확대되고 있다는 우려가 제기됐다.

이 의원은 청소년 보호를 위한 몇 가지 방안을 제안했다. 사업자가 청소년의 연령을 확인하고 보호자 동의 절차를 마련하는 것은 물론, 이용시간을 제한하며 위기 대응 체계의 구축이 필요하다고 강조했다. 김종철 방미통위원장도 이러한 제안에 동의하며, 정보통신망법이나 AI 기본법의 보완을 통해 실질적인 변화를 이루겠다고 밝혔다.

스캐터랩의 대응과 새로운 안전 장치

국정감사 이후, 스캐터랩은 서비스의 안전성을 높이기 위한 대책을 서둘러 마련하고 있다. 최근 점검 결과, 제타의 ‘세이프 모드’에서도 부적절한 대화가 생성된 것으로 확인되었으며, 이로 인해 더욱 강력한 필터링 기준을 적용할 계획이다. 스캐터랩은 오는 18일까지 간접적이며 은유적인 표현까지 차단하도록 탐지 기준을 강화하고, 유해 대화 시도에 대해서는 경고와 대화 초기화 등의 단계별 제재 조치를 도입할 예정이다.

또한, 청소년 보호를 위한 새로운 이용 정책도 마련된다. 청소년 기본 이용시간을 하루 3시간으로 제한하고, 월 결제 한도를 10만 원으로 설정하는 방안이 포함된다. 이 외에도 콘텐츠 연령등급제를 도입하고, 정기적인 점검을 통해 재발 방지를 위한 체계적인 노력을 약속했다.

업계의 반응과 향후 전망

비단 스캐터랩만의 문제가 아니다. 유사한 AI 캐릭터 서비스를 제공하는 뤼튼 역시 청소년 보호를 위한 하루 3시간, 월 10만 원의 이용 한도를 적용하는 정책을 발표했다. 이와 같은 조치들은 청소년이 안전하게 AI 서비스를 이용할 수 있도록 하기 위한 업계의 노력으로 해석된다.

AI 기술이 날로 발전하면서 청소년들이 접하는 콘텐츠의 범위와 성격 또한 변화하고 있다. 따라서 이에 대한 규제는 필수적이며, 정부와 기업이 협력해 안전한 이용 환경을 조성하는 것이 중요하다. 앞으로 AI 서비스의 발전과 함께 청소년 보호를 위한 규제가 어떻게 진화할지 귀추가 주목된다.