행안부·방통위·성평등부, AI 탐지 모델로 딥페이크 성범죄 잡는다

행정안전부, 성평등가족부, 방송미디어통신위원회가 협력하여 딥페이크 성범죄에 대응하기 위한 기술적 기반을 마련하고 나섰다. 이들 기관은 25일 '딥페이크 성범죄 대응 기술협력을 위한 업무협약'을 체결하며, 인공지능(AI) 기술을 활용한 딥페이크 탐지 및 분석 모델을 공동으로 개발하고 활용하기로 했다. 이러한 협력은 급증하는 딥페이크 성범죄에 효율적으로 대응하기 위한 첫걸음으로 평가된다.

AI 기반 딥페이크 탐지 및 분석 모델

딥페이크는 인공지능 기술을 사용해 특정 인물의 얼굴을 다른 사람의 얼굴로 바꾸거나, 음성을 변조하여 사실과 다른 정보를 생성하는 기술이다. 이를 악용한 성범죄가 빈번해지면서 사회적 문제가 되고 있는 가운데, 세 기관은 AI 딥페이크 탐지 및 분석 모델을 통해 이러한 위험을 줄이겠다는 방침이다. 행정안전부는 국립과학수사연구원에서 개발한 최첨단 모델을 공유하고, 이를 활용하여 피해 영상물의 탐지부터 삭제 및 차단까지의 전 과정을 지원할 예정이다.

이러한 AI 모델은 단순히 딥페이크 영상을 식별하는 것을 넘어서, 피해자 보호와 2차 피해 방지를 위한 다양한 절차와 연결된다. 특히 피해자가 고통을 겪고 있는 상황에서 신속하고 안전하게 대응할 수 있는 시스템을 구축하는 것이 핵심이다. 이를 통해 피해자들은 심리적 안정감을 느끼고, 빠르게 회복할 수 있는 환경이 조성될 것으로 기대된다.

협력 체계 및 보안 관리 강화

성평등가족부는 피해 영상물 처리 및 보안 관련 업무 기준을 마련하여 피해자 보호와 2차 피해 방지에 중점을 두고 진행한다. 이는 단순히 기술적인 대응을 넘어, 피해자들이 보다 안전한 환경에서 도움을 받을 수 있도록 하는 조치를 포함한다. 방송미디어통신위원회는 온라인 플랫폼에서 딥페이크 성범죄 의심 콘텐츠가 유통되는 것을 방지하기 위해, 플랫폼 사업자와의 협력을 강화하는 데 주력하고 있다. 이들은 삭제 및 차단 절차를 통해 재유포 및 변형된 콘텐츠에 대한 대응 체계를 갖출 예정이다.

특히, 세 기관은 피해영상물 처리 과정에서 개인정보와 피해자의 인권을 최우선으로 고려하고 있다. 불필요한 복제나 공유, 보관을 제한하여 보안 관리 기준을 강화하는 방안도 마련하고 있어, 기술적 대응뿐만 아니라 사회적 책임을 다하려는 노력이 엿보인다.

향후 전망

이번 협약을 통해 세 기관은 AI 기술과 사회적 인프라를 결합하여 딥페이크 성범죄에 대한 보다 효과적인 대응 체계를 구축할 예정이다. 딥페이크 기술이 발전함에 따라 그에 대한 대응도 지속적으로 업데이트되고 고도화되어야 할 필요성이 커지고 있다. 이를 통해 피해자들이 보다 안전하게 보호받고, 사회 전반에 걸쳐 딥페이크 기술의 악용을 방지하는 데 기여할 것으로 보인다.

이러한 협력이 성공적으로 이루어진다면, 앞으로의 디지털 환경은 좀 더 안전하고 신뢰할 수 있는 공간이 될 것으로 기대된다. AI 기술이 사회적 문제 해결에 기여하는 모습을 보여주며, 기술과 인권이 조화를 이루는 방향으로 나아가길 바라본다.