"AI 환각에 중국과 충돌할 뻔"…미군, 정보 오류에 ‘식은땀’

미국의 군사 작전이 인공지능(AI)의 잘못된 분석으로 인해 아찔한 상황에 직면한 사건이 발생했다. 올봄 중동 지역에서 이란과의 긴장이 고조된 가운데, 미군은 중국 선박이 핵무기 개발 부품을 운반하고 있다는 정보에 따라 작전을 개시하려 했다. 그러나 작전 직전, 이 정보가 사실 무근임을 밝혀내면서 전투의 위험은 면하게 되었다.

AI의 잘못된 판단, 전투 직전까지 가다

CNN의 보도에 따르면, 사건의 발단은 하와이 본부의 태평양특수작전사령부(SOCPAC) 분석관이 AI를 활용하여 작성한 보고서에서 비롯되었다. 이 보고서는 중국 선박의 화물 목록을 오판하여 "환각"을 일으킨 결과였다. 미군은 보고서를 바탕으로 긴급 작전 준비에 돌입했고, 무장한 병력과 군용기가 출격 준비를 마쳤다. 그러나 마지막 검토 과정에서 이 보고서가 잘못된 정보라는 사실이 밝혀져 전투는 막을 내리게 되었다.

한 소식통은 이 사건을 두고 "완전히 거짓이었다"며 "하마터면 전쟁을 일으킬 뻔했다"라고 강조했다. 만약 미군이 이 잘못된 정보를 바탕으로 행동에 나섰다면, 결과적으로 미국과 중국 간의 심각한 군사 충돌로 이어질 수 있었던 아찔한 상황이었다.

AI 분석의 한계와 정보 검증의 중요성

이번 사건에서 AI는 공개 출처 정보(OSINT)와 정부의 비밀 신호 정보(SIGINT)를 결합하는 과정에서 잘못된 결론을 도출한 것으로 보인다. 특히, 미국 정부의 군사 작전에서 사용하는 AI 도구가 상용 AI 도구인지, 아니면 자체 개발한 것인지에 대한 명확한 정보는 없다. 한 전직 고위 당국자는 이러한 내부 AI 도구의 신뢰성에 의문을 제기하며, "겉모습만 정부용처럼 꾸며놓았을 뿐, 속은 일반 시중 판매용 제품과 다르지 않다"고 비판했다.

미국 국방부와 정보기관은 최근 AI 도입을 급속히 추진하고 있지만, 각 부처마다 서로 다른 AI 도구를 사용하고 있으며, 통일된 정보 검증 기준이 부족한 상황이다. 특히 표적 선정 과정에서 인간의 개입이 미비해 민간인 피해나 아군 공격 위험이 커질 수 있다는 우려가 제기되고 있다. 한 관계자는 "AI는 나쁜 아이디어에 더 빠르게 도달하게 만든다"며 기술 의존도가 높아질수록 오판의 위험도 함께 커진다고 경고했다.

향후 AI의 역할과 군사 전략의 재구성

이번 사건은 AI 기술이 군사 작전에서 가지는 중요성과 그에 따른 위험을 동시에 드러냈다. 미국 국방부는 지난해 AI 가속화 전략을 발표하며 군 전반에 AI를 도입하겠다고 선언했지만, 이번 사건은 그에 대한 심각한 재고를 요구하는 계기가 될 것이다. 정보의 정확성이 생사의 기로에 서는 군사 작전에서 AI의 역할은 더욱 중요해질 것이며, 이를 위한 안전장치와 검증 프로세스의 필요성도 더 강조될 것이다.

AI 기술의 발전이 군사 작전의 효율성을 높일 가능성이 있는 만큼, 이에 따른 윤리적이고 법적인 문제에 대한 논의도 더욱 활발히 이루어져야 할 시점이다. 군사 작전에서 AI의 활용은 선택이 아닌 필수가 되어가고 있지만, 그 과정에서 발생할 수 있는 위험 요소를 간과해서는 안 될 것이다.