"6~12개월 내 터진다"…주요 AI 기업, 최악의 AI 재난 시나리오 가동

최근 인공지능(AI) 분야의 주요 기업들이 대규모 재앙 시나리오에 대한 비공식 검토에 착수한 사실이 전해졌다. 앤트로픽과 오픈AI를 비롯한 여러 AI 회사들은 향후 6개월에서 1년 이내에 발생할 수 있는 치명적인 사고를 대비하기 위해 전략을 마련하고 있는 것으로 확인됐다. 이들은 AI 시스템의 안전성이 확보되지 않은 상황에서 발생할 수 있는 다양한 인프라 마비 사태를 예상하고 있다.

AI 재난 시나리오의 필요성

악시오스 보도에 따르면, 기업 관계자들은 금융 서비스의 마비, 인터넷 접속 중단, 전력 및 상수도 시설의 차단 등 광범위한 인프라 문제가 발생할 가능성을 우려하고 있다. 이러한 사태가 실질적으로 발생할 경우, 사회적 불안은 물론 정치적 반란으로 이어질 수도 있다는 점에서 기업들은 사전 준비가 필수적이라고 판단하고 있다. 특히 오픈AI의 샘 알트먼 CEO와 앤트로픽의 다리오 아모데이 CEO와 같은 기술 리더들이 이 문제에 대한 책임을 떠안게 될 가능성이 높다는 분석이 지배적이다.

이러한 시나리오 검토는 과거 국방부가 전쟁 게임을 통해 위기를 대비해온 방식과 유사하다. 그러나 AI 기업들은 그간의 연구와 경험을 바탕으로 대규모 사고의 발생을 단순한 가정이 아닌 "불가피한 현실"로 받아들이고 있다는 점이 주목할 만하다. 오픈AI 대변인은 "다양한 잠재적 시나리오를 논의하고 검토하는 과정은 필연적인 상황을 대비하기 위한 것이 아니다"라고 강조하며, 이러한 준비가 사고 예방에 도움이 될 것이라고 언급했다.

실제 사례와 우려되는 위험

최근 한국의 금융기관을 대상으로 한 사이버 공격 사건은 이러한 우려를 더욱 현실감 있게 드러내고 있다. 공격자들은 중국산 AI 도구를 이용해 수만 명의 고객 정보를 탈취했으며, 이를 통해 데이터의 판매처를 물색하는 등 위험이 현실화되고 있다. 이런 상황에서 AI 업계 최고 경영진들은 오는 11월 중간선거 이후 민주당이 의회 주도권을 잡을 경우, AI 사용에 대한 규제가 강화될 것으로 전망하고 있다.

하지만 AI 발전 속도를 따라가지 못하는 의회가 무리한 규제를 시행할 경우, 이는 경제 전반에 심각한 악영향을 미칠 수 있다는 경고도 제기되고 있다. 특히 악용될 수 있는 오픈웨이트 모델들이 많아진 환경에서, 사이버 보안 전문가들은 "AI를 활용해 악성 AI와 싸우는 방법" 외에는 마땅한 대안이 없다고 언급하고 있다.

정치적 협력 가능성

AI 시스템의 안전성 문제가 불거질 경우, 대중의 공포는 정치적 압박으로 이어질 가능성이 크다. 전문가들은 전력망이나 금융 시스템이 마비되는 대참사가 발생하면, 정치인들이 즉각적으로 "AI 개발을 전면 금지하라"는 목소리를 높일 것이라 예측하고 있다. 이에 따라 빅테크 기업들은 이러한 압박을 피하기 위해 사전 정책 준비에 나서고 있다.

현재 정치권에서는 고성능 AI 시스템에 대한 '킬 스위치' 의무화가 논의되고 있으나, 이는 정파에 따라 의견이 엇갈려 혼란을 가중시키고 있다. 그러나 위기 상황에서는 과거 코로나19 팬데믹과 2008년 금융 위기처럼 정치적 분열이 해소되고 초당적 협력이 가능할 것이라는 분석도 제기되고 있다.

이번 AI 재난 시나리오 검토는 단순한 예방 차원에 그치지 않고, 향후 발생할 수 있는 다양한 상황에 대한 기업들의 대응력을 높이려는 의도로 해석된다. 기술 발전과 안전성 확보가 동시에 이루어져야 하는 지금, AI 업계가 어떻게 이러한 도전에 대응해 나갈지 주목된다.