영국 경찰, 법정 진술서 작성에 ‘AI 사용 중단’ 명령…“환각 우려”

최근 영국 경찰이 법정에서의 진술서 작성에 생성 AI의 사용을 중단하라는 명령을 내리면서, AI 기술의 안전성과 신뢰성에 대한 우려가 다시금 수면 위로 떠올랐다. 잉글랜드와 웨일스의 일부 경찰 조직이 효율성을 높이기 위해 AI를 도입했지만, 부정확한 정보 생성 가능성으로 인해 당국이 제동을 걸었다.

AI 도입의 무게

영국 경찰의 AI 활용을 총괄하는 '폴리스닷AI'의 책임자인 알렉스 머레이는 최근 발표에서, 일부 경찰 조직이 검증 절차 없이 AI 도구를 사용하고 있다는 사실을 확인했다고 밝혔다. 그는 "일부 경찰 조직에 '잠시 멈추고 속도를 늦춰야 한다'고 요구했다"며, 형사사법 시스템에서 활용되는 기술은 매우 높은 정확성을 요구한다고 강조했다. 이러한 조치는 AI의 정확성과 신뢰성이 형사사법 과정에 미치는 잠재적 영향을 고려한 결과로 풀이된다.

AI의 활용이 불러올 수 있는 문제는 이미 여러 차례 드러난 바 있다. 지난해 웨스트 미들랜즈 경찰은 마이크로소프트의 AI 도구를 사용해 잘못된 정보를 포함한 공식 문서를 생성하는 실수를 저지른 바 있다. 이 사건은 AI의 환각 현상, 즉 실제로 존재하지 않는 정보를 만들어내는 문제를 다시금 부각시켰다. 이러한 실수는 법정에서의 증거로 사용될 수 있는 문서에 큰 영향을 미칠 수 있기 때문에, 경찰 당국은 더욱 신중한 접근이 필요하다는 점을 인식하고 있다.

AI의 가능성과 신뢰성의 균형

현재 영국 정부는 경찰 업무의 효율성을 높이기 위해 3년 간 1억1500만 파운드(약 2300억원)를 투입해 폴리스닷AI를 설립하고, 3000여 명의 경찰관을 추가 채용할 계획이다. 경찰 당국은 AI가 정교한 데이터 분석을 통해 수사 과정의 효율성을 크게 향상시킬 수 있다고 기대하고 있다. 예를 들어, CCTV 영상 분석에 AI를 활용하면 수사관들이 수시간에 걸쳐 직접 영상을 확인하는 시간을 대폭 단축할 수 있다. 이 외에도 아동 성범죄와 관련된 디지털 기기에서 방대한 양의 데이터를 분석하는 데에도 AI의 활용이 검토되고 있다.

머레이 책임자는 "AI가 불법 콘텐츠를 자동으로 분류하고 식별할 수 있도록 하여, 수사관들이 정신적 충격을 받을 수 있는 자료를 직접 확인해야 하는 부담을 줄일 수 있을 것"이라고 설명했다. 하지만 이러한 기술의 활용에 있어서는 적절한 안전장치와 정책이 뒷받침되어야 하며, 무엇보다 형사사법 시스템의 신뢰성을 유지하는 범위 내에서 신중하게 추진되어야 한다는 점이 강조되었다.

미래를 위한 신중한 접근

AI의 도입은 경찰 수사에 많은 긍정적인 변화를 가져올 수 있을 것으로 기대되지만, 그 과정에서 발생할 수 있는 잠재적인 위험성 또한 간과할 수 없다. 영국 경찰이 생성 AI의 사용을 잠정 중단한 이번 결정은 기술의 안전성과 신뢰성을 최우선으로 고려한 결과로 볼 수 있다. AI 기술이 법 집행에 기여할 수 있는 가능성은 크지만, 그 이점을 최대한 활용하기 위해서는 철저한 검증과 신중한 정책적 접근이 필요하다.

앞으로 경찰 조직이 AI를 더욱 안전하게 활용하기 위해 어떤 노력을 기울일지가 주목된다. AI가 가져올 수 있는 혁신은 무궁무진하지만, 그 혁신이 신뢰를 기반으로 해야만 진정한 가치를 발휘할 수 있다는 점을 잊지 말아야 할 것이다.