경찰청-씽크포비엘, 치안 분야 ‘AI 신뢰성’ 기준 수립 협력

ai AI 인공지능 씽크포비엘 가이드라인

씽크포비엘(대표 박지환)은 지난달 ‘AI 영향평가 및 위험관리방안 수립’ 정책과제연구 수행기관으로 선정된 데 이어, 이달부터 본격 사업에 착수해 올해 말 완료 예

씽크포비엘, 경찰청과 손잡고 AI 신뢰성 체계 구축에 나선다

최근 씽크포비엘이 경찰청과 협력하여 인공지능(AI) 기술의 신뢰성을 확보하기 위한 연구 프로젝트를 시작했다고 발표했다. 이 프로젝트는 AI의 영향 평가 및 위험 관리 방안을 수립하는 것을 목표로 하며, 올해 말까지 완료될 예정이다. 이번 협업은 치안 분야에서 AI의 도입과 활용이 더욱 증가하는 가운데, 관련 법률의 영향과 운영상의 위험을 진단하고 대응하기 위한 중요한 첫걸음으로 평가된다.

AI 신뢰성 확보를 위한 체계적 접근

씽크포비엘은 이번 프로젝트에서 경찰청의 현장 수사 및 민원 업무에 AI 기술을 효과적으로 도입하기 위해 다각적인 연구를 진행한다. 이는 단순히 기술적인 측면뿐만 아니라, AI 기본법과 공공 AI법 등 관련 법령의 요구사항을 충족시키는 데 중점을 둔다. 특히, 인공지능의 안전성과 신뢰성을 강화하기 위한 다양한 기준과 절차를 마련하는 것이 핵심이다.

이 과정에서 씽크포비엘은 먼저 국내외의 정책 및 조직 현황을 조사하고, 경찰청에서 도입할 AI 서비스의 영향 평가를 시행할 계획이다. 또한, 경찰청의 AI 위험 관리 정책을 수립하고, 위험 관리 조직 체계와 역할, 책임을 정립하는 작업도 포함된다. 박지환 대표는 "이번 연구는 경찰청이 실제 치안 현장에서 AI를 반복적으로 적용할 수 있는 체계와 기준을 마련하는 데 중점을 두고 있다"며, 성능 중심의 기술 검토에 그치지 않겠다는 강한 의지를 밝혔다.

국제 기준과의 정합성 확보

씽크포비엘은 AI 신뢰성 체계 구축 과정에서 OECD, 유럽연합(EU) AI 법, ISO/IEC 국제표준 등 다양한 국제 기준과의 정합성을 맞추는 데 초점을 맞추고 있다. 이를 통해 국내 법제 대응을 넘어서 글로벌 규범 수준의 영향 평가 및 위험 관리 표준 모델을 마련할 계획이다. 이러한 노력은 국내 치안 AI 분야의 경쟁력을 높이는 데 기여할 것으로 기대된다.

특히, AI 기술이 치안 분야에 도입됨에 따라 발생할 수 있는 법적 이슈와 윤리적 문제를 사전에 파악하고 대응하는 것이 중요하다. 씽크포비엘의 연구는 이러한 필수 요소를 반영하여 치안 AI의 투명성과 인간 감독을 강화하는 방향으로 진행된다.

향후 전망

이번 협력을 통해 마련될 AI 신뢰성 기준은 향후 경찰청의 AI 도입 및 운영에 중대한 영향을 미칠 것으로 보인다. 치안 분야에 AI가 본격적으로 통합됨에 따라, 그에 대한 사회적 신뢰가 필수적이며, 씽크포비엘의 연구가 이러한 신뢰 구축에 기여할 것으로 기대된다. 궁극적으로, 이번 프로젝트는 한국의 치안 AI 분야가 선도적인 위치를 차지하는 데 중요한 역할을 할 것이다. AI 기술의 발전이 가져올 변화에 적극 대응하고, 안전하고 신뢰할 수 있는 치안 서비스를 제공하기 위한 첫걸음이 될 것으로 전망된다.