미국·러시아, 유엔 AI 무기 협약서 '인간 감독' 안전장치 삭제

미국과 러시아가 최근 유엔에서 열린 치명적 자율무기 체계(LAWS)와 관련한 협상에서 핵심 안전 조항을 삭제한 사실이 알려졌다. 이 조항은 AI가 지정한 공격 목표에 대해 인간의 사전 검토를 요구하는 내용을 담고 있어, 무기 사용의 윤리적 기준을 유지하려는 노력이 담겨 있었다. 그러나 이번 협상에서 이와 같은 안전장치는 빠지게 되며 자율무기 사용의 규제에 대한 우려가 더욱 증폭되고 있다.

인권 단체들의 우려

워싱턴포스트에 따르면, 9월 초 스위스 제네바에서 열린 유엔 회의에서 미국과 러시아 대표단은 약 15시간 동안 문구 수정 작업을 진행했다. 이 과정에서 자율무기 시스템이 '예측 가능하고 신뢰할 수 있는' 방식으로 작동해야 한다는 조항과 AI 무기를 사용할 때 윤리적 고려를 해야 한다는 내용이 삭제됐다. 가장 큰 문제는 AI가 설정한 군사 목표를 공격하기 전에 인간의 검토가 필요하다는 조항이 빠진 점이다. 인권 단체인 휴먼라이츠워치(HRW)의 베리티 코일은 이러한 규제 완화가 기계가 인간의 통제 없이 생사 결정을 내리는 상황으로 이어질 수 있다고 경고했다. 이는 민간인 피해와 책임 소재의 불분명함, 나아가 자동화된 전쟁의 위험 증가로 이어질 가능성이 크다.

자율무기 실전 도입의 가속화

이러한 우려에도 불구하고 자율무기의 실전 도입은 점점 더 가속화되고 있는 상황이다. 미국과 이스라엘 등은 표적 식별과 작전 지원에 AI를 적극 활용하고 있으며, AI 기반의 사이버 공격 및 무기 개발 시도도 잇따르고 있다. 최근에는 AI 모델이 다른 기관의 서버를 자율적으로 공격한 사례가 공개되면서 안전성 논란이 더욱 뜨거워지고 있다. 이러한 흐름 속에서 미국은 국제 협약과 별개로 자체 운용 지침 개정을 추진 중이며, 향후 자율 및 반자율 무기 사용 시 인간의 판단 및 확인을 의무화한 2023년 제정된 미 국방부 지침이 수정될 가능성도 제기되고 있다.

국제 규제 논의의 향후 전망

국제 사회의 규제 논의가 완전히 막힌 것은 아니다. 국제적십자위원회(ICRC)는 자율무기에도 화학 및 생물무기처럼 명확한 국제 규칙이 적용되어야 한다는 입장을 고수하고 있다. 유엔 회원국들은 오는 11월 제네바에서 관련 논의를 이어갈 예정으로, 이번 회의에서 삭제된 인간 감독 권한과 예측 가능성, 윤리적 기준을 다시 협정안에 반영할 수 있을지가 글로벌 AI 무기 규제의 중요한 분수령이 될 전망이다. 자율무기의 발전과 함께 인간의 윤리적 판단력을 유지하기 위한 노력이 그 어느 때보다 필요한 시점이다.