백악관, 첨단 AI 자발적 평가안 비공개 결정…오픈 모델은 검증 제외

미국 백악관이 첨단 인공지능(AI) 모델의 안전성을 평가하기 위한 자발적 평가 프레임워크를 마련했지만, 이와 관련된 구체적인 내용은 공개하지 않기로 결정했다. 특히, 오픈웨이트 모델에 대해서는 안전성 테스트의 대상에서 제외하겠다는 방침을 세우면서 업계에서는 투명성과 형평성을 둘러싼 논란이 심화되고 있다.

자발적 평가 프레임워크의 배경

백악관은 4일(현지시간) 주요 AI 기업들과의 회의를 통해 이번 프레임워크를 소개했다. 이 회의에는 오픈AI, 구글, 앤트로픽, 메타, 엔비디아 등 대표적인 AI 기업들이 참석했으며, 특히 엔비디아는 최근 오픈소스 AI 생태계 확대에 대한 지지를 표명해왔다. 이번 프레임워크는 도널드 트럼프 행정부의 행정명령에 따라 마련된 것으로, AI 모델 개발 기업들이 정부와 협력하여 자사 모델의 보안 검증 절차를 진행하도록 하는 것이 핵심 목표다.

그러나 이 프레임워크의 세부 지침은 외부에 공개되지 않기로 결정되면서, 회의에 참석하지 못한 기업이나 연구 기관은 그 내용을 알 수 없는 상황이다. 전문가들은 이러한 비공식적인 접근이 AI 모델의 안전성을 평가하는 데 있어 불투명함을 초래할 수 있다고 우려하고 있다.

오픈웨이트 모델 제외의 논란

특히 주목할 점은 오픈웨이트 AI 모델이 자발적 안전성 테스트의 범위에서 제외되었다는 사실이다. 오픈웨이트 모델은 핵심 모델 가중치가 공개되어 누구나 이를 수정하거나 활용할 수 있는 AI를 의미한다. 메타의 '라마'와 엔비디아의 '네모트론' 등이 이 범주에 속한다. 하지만 아시아, 유럽, 미국 등지에서 최근 AI 보안 사고가 잇따르면서, 오픈웨이트 모델의 제외 결정은 업계에서 많은 논란을 일으키고 있다.

AI 정책 단체인 ARI(Americans for Responsible Innovation)는 "소수 기업만 프레임워크를 공유하고 이를 비공식적으로 진행하는 것은 정부의 감독 체계를 더욱 불투명하게 만든다"며 강하게 반발했다. 이러한 비판은 특히 정부가 AI 모델의 안전성과 보안을 어떤 기준으로 평가할 것인지에 대한 의문을 제기하고 있다.

향후 전망과 필요성

백악관은 이번 프레임워크를 통해 AI 모델의 안전성을 보장하고자 하지만, 자발적 평가 시스템의 한계와 불투명성 문제는 여전히 해결해야 할 과제로 남아있다. 특히 '신뢰할 수 있는 파트너(Trusted Partners)'의 범위가 명확히 규정되지 않으면서, 어떤 기관이나 국가가 AI 모델에 조기 접근할 수 있는지에 대한 논란도 커지고 있다. 이러한 상황에서 민주당 상원의원들은 AI 모델에 대한 안전성 테스트를 법률로 의무화해야 한다는 목소리를 높이고 있다.

AI 기술의 발전이 가속화되고 있는 만큼, 이러한 자발적 평가 시스템이 실제로 효과적으로 기능할 수 있을지, 그리고 향후 어떤 법적 규제가 필요할지에 대한 논의가 필요하다. 정부의 역할이 더욱 중요해지는 이 시점에서, 투명하고 공정한 AI 생태계를 구축하기 위한 노력이 절실하다.