오픈AI "10대 챗GPT 평균 15분 사용" 주장에 안전성 논란 불붙어

오픈AI가 청소년을 위한 챗GPT의 사용 현황에 대한 보고서를 발표하면서 새로운 안전성 논란이 불거지고 있다. 이 보고서에 따르면, 10대 사용자들은 평균 15분 미만으로 챗GPT를 이용하고 있으며, 안전장치의 효과가 나타나고 있다고 주장하고 있다. 그러나 비영리단체인 커먼 센스 미디어의 연구 결과는 이러한 주장에 정면으로 반박하고 있다.

청소년 이용 현황과 안전장치의 효과

오픈AI는 최근 청소년용 챗GPT(ChatGPT for Teens)의 사용 현황을 발표하며, 청소년들이 하루 평균 15분 미만으로 서비스를 이용하고 있다고 밝혔다. 이들은 장시간 사용을 방지하기 위해 도입된 휴식 알림 기능의 효과를 강조하며, 사용자가 대화를 중단하거나 휴식을 취하는 데 긍정적인 영향을 미치고 있다고 설명했다. 특히, 3시간 이상 연속으로 사용한 10대 사용자 중 80% 이상이 학습과 관련된 내용을 다루었다고 전하며, 이 기능이 학습 도구로서의 역할을 강화하고 있다고 주장했다.

오픈AI의 말에 따르면, 청소년용 챗GPT는 13세에서 17세의 사용자에게 부모 통제 기능과 민감한 주제에 대한 추가 안전장치를 제공하고 있다. 자해나 섭식장애와 같은 고위험 대화를 감지했을 때, 부모에게 알림을 보내는 시스템도 포함되어 있다. 하지만 커먼 센스 미디어는 이와는 상반된 결과를 제시하며, 안전장치의 실효성에 의문을 제기하고 있다.

안전성 문제와 커먼 센스 미디어의 반박

커먼 센스 미디어의 청소년 AI 안전 연구소는 13세부터 17세까지의 청소년 계정을 대상으로 실시한 4000건 이상의 테스트 결과를 통해, 챗GPT의 안전 기능이 제대로 작동하지 않는 사례가 다수 발견되었다고 발표했다. 연구진은 자살, 자해, 섭식장애와 관련된 대화에서 부모 알림이 전혀 전달되지 않았던 사례를 지적하며, 위기 상담 전화 안내도 미흡했다고 강조했다. 특히, 새로 만들어진 부모 연동 계정에서도 고위험 대화가 이어져도 알림이 전달되지 않는 경우가 있었다고 밝혔다.

이와 같은 문제는 챗GPT가 청소년과의 관계를 지나치게 친밀하게 형성할 가능성을 더욱 부각시키고 있다. 연구진은 챗봇이 사용자의 고민이나 감정을 충분히 반영하지 못하는 경우가 많아, 이는 청소년들이 실제 인간관계에서 멀어지는 결과를 초래할 수 있다고 경고하고 있다.

향후 전망과 대처 방안

오픈AI는 커먼 센스 미디어의 연구 결과에 대해 반박하며, 테스트가 부모 통제 기능이 활성화되기 전에 이루어졌을 가능성이 있다고 주장했다. 그러나 연구소의 입장은 이와 달리, 특정 계정이 충분한 시간 동안 연결되어 있었음에도 불구하고 알림을 받지 못한 사례가 존재한다고 맞서고 있다. 이는 청소년의 안전을 보장하기 위한 기술적 조치가 실질적으로 효과를 발휘하지 못하고 있음을 시사한다.

AI와 챗봇 기술이 청소년의 일상생활에서 점차 중요한 역할을 차지함에 따라, 안전성과 신뢰성을 높이기 위한 지속적인 연구와 개선이 필요하다. 오픈AI와 같은 기업들이 이러한 문제를 심각하게 인식하고, 실제 사용자의 안전을 고려한 기술 개발에 나서는 것이 필수적이다. 청소년들이 안전하게 AI와 소통할 수 있는 환경 조성이 절실한 시점이다.