백악관, 주요 AI 기업 실무자 소집...‘자발적 감독 방안’ 최종 검토

미국 백악관이 최근 오픈AI, 구글, 앤트로픽, 메타 등 주요 인공지능(AI) 기업의 실무자들을 소집해 AI 모델의 사이버보안 위험성을 평가하고 관리하기 위한 ‘AI 감독 프레임워크’의 세부 사항을 논의했다. 이 회의는 지난 6월에 발표된 행정명령의 일환으로, 정부와 기업이 협력하여 AI 개발에 따른 위험 요소를 사전에 점검하는 자발적 검증 체계를 마련하는 데 목적을 두고 있다.

AI 감독 프레임워크의 필요성

AI 기술이 급속도로 발전하면서 사이버 공격에 대한 우려도 커지고 있다. 특히 최근 오픈AI의 실험용 AI 에이전트가 테스트 환경을 넘어서는 사고와 앤트로픽의 AI 모델이 여러 기업의 시스템을 침해한 사건은 이러한 우려를 더욱 부각시켰다. 미국 의회와 규제 당국은 AI가 실제 사이버 공격에 악용될 수 있다는 점에 주목하며, 관련 사고에 대한 설명을 요구하고 있다. 이러한 배경 속에서 백악관은 AI 모델의 안전성을 높이기 위한 프레임워크를 마련한 것이다.

AI 감독 프레임워크에서는 AI 기업이 새로운 모델을 공개하기 최소 30일 전에 정부에 자발적으로 제출하여 보안성과 잠재적 위험을 평가받도록 하는 절차가 포함된다. 이를 통해 정부는 AI 모델의 소프트웨어 취약점을 사전에 발견하고, 이를 악용할 가능성을 미리 차단할 수 있을 것으로 기대하고 있다. 다만, 평가 기준이나 벤치마크, 대상 모델에 관한 세부 사항은 국가안보를 이유로 비공개로 유지될 예정이다.

기업과 정부의 협력

이번 회의는 백악관의 국가사이버국(ONCD)이 주관하며, 실무자들만 참석하는 비공식적인 자리로 진행되었다. 이는 CEO가 아닌 현장 실무자들이 구체적인 사항을 논의하고, 실질적인 의견을 교환하기 위한 의도로 보인다. 백악관은 오픈AI, 구글, 앤트로픽과 같은 주요 기업들과의 협의를 통해 프레임워크 초안을 마련하고 의견을 수렴해왔다. 특히 샘 알트먼 오픈AI CEO가 최근 워싱턴을 방문하여 정부 관계자들과의 회의를 가졌다는 소식은 기업과 정부 간의 긴밀한 협력이 이루어지고 있음을 보여준다.

트럼프 대통령은 이 과정에서 AI 모델의 사이버 공격 능력을 평가하기 위한 기준 마련을 명령했으며, 민간 기업의 자발적인 참여를 유도하는 방안을 강조하고 있다. 이는 AI 개발과 출시에서 정부의 의무적 허가제를 피하고, 대신 민간과의 협력을 통해 안전성을 확보하겠다는 의지를 반영한 것이다.

향후 AI 안전성 검증 체계의 중요성

AI 기술의 발전은 다양한 산업에 혁신을 가져올 수 있지만, 동시에 사이버 보안 위협을 동반한다는 점에서 주의가 필요하다. 백악관의 AI 감독 프레임워크는 이러한 위험성을 관리하기 위한 첫 걸음으로, AI 기업들이 안전하게 기술을 개발하고 배포할 수 있는 환경을 조성하는 데 중요한 역할을 할 것으로 예상된다.

AI와 사이버 보안의 경계가 점점 더 모호해지고 있는 이 시점에서, 정부와 기업 간의 협력은 필수적이다. 앞으로의 논의와 협력이 AI 기술의 안전성과 신뢰성을 높이는데 기여할 것으로 기대된다. AI의 발전이 인류에게 긍정적인 영향을 미칠 수 있도록, 정부와 기업이 함께 안전성을 확보하는 방향으로 나아가야 할 때이다.