미국 정부 AI 규제 공백 속 제3자 평가 기관 급부상...'자금난·독립성' 과제도 부각

미국 정부가 인공지능(AI) 규제에 대한 명확한 정책을 수립하지 않으면서, 독립적인 AI 평가 기관들의 역할이 점점 더 중요해지고 있습니다. 이러한 흐름은 AI 모델의 신뢰성을 높이기 위한 노력이지만, 평가 기관들이 직면한 자금 부족과 독립성 문제는 해결해야 할 주요 과제로 떠오르고 있습니다.

AI 평가 기관의 부상

최근, METR(Model Evaluation and Threat Research), 아폴로 리서치(Apollo Research), 트랜스루스(Transluce) 등 비영리 AI 평가 기관들이 주목받고 있습니다. 이들은 AI 모델의 성능과 위험성을 객관적으로 평가함으로써, 기업들이 자체적으로 진행하는 평가의 한계를 극복할 수 있도록 돕고 있습니다. AI 업계의 경쟁이 치열해짐에 따라 기업의 신뢰를 얻기 위해서는 외부의 검증이 필수적이라는 인식이 확산되고 있습니다.

도널드 트럼프 전 대통령조차 기업의 자율적인 안전 관리를 강조하며, AI 기업들에게 독립적인 평가 기관과 협력할 것을 당부했습니다. 앤트로픽의 다리오 아모데이 CEO는 독립 평가 인력을 자사에 배치해 AI 모델의 안전성을 검증하겠다고 밝혔으며, 오픈AI의 샘 알트먼 CEO도 외부 평가 체계 도입을 지지하고 있습니다.

자금난과 독립성의 위기

하지만 이러한 평가 기관들은 여러 도전에 직면해 있습니다. 가장 큰 문제는 자금 부족입니다. AI 모델의 안전성을 검증하기 위해서는 전문 인력과 연구 비용이 필요하지만, 비영리 기관들은 대규모 AI 기업들에 비해 자원이 턱없이 부족합니다. 특히, 평가 기관이 특정 기업에 재정적으로 의존하게 될 경우, 불리한 결과를 공개하기 어려워질 수 있습니다.

브라운대학교의 수레시 벤카타수브라마니안 교수는 “문제는 결국 돈”이라며, 평가 기관들이 지속 가능한 재원과 사업 모델을 확보해야 한다고 강조했습니다. METR은 최근 7100만 달러의 후원 계약을 체결했지만, 여전히 인력과 자원이 필요한 상황입니다. 이러한 자금 문제는 평가 결과의 신뢰성에 직접적인 영향을 미칠 수 있습니다.

제도적 논의 및 향후 전망

이러한 문제를 해결하기 위한 제도적 논의도 진행되고 있습니다. 정책 비영리단체 패덤은 미국 정부가 독립 검증 기관을 인증하고, 이들이 AI 기업의 안전 기준 준수 여부를 검증할 수 있도록 하는 방안을 제안했습니다. 캘리포니아주에서는 AI 독립 평가 체계와 관련한 법안이 마련되고 있으며, 이는 오픈AI와 앤트로픽의 지지를 받고 있습니다.

AI 안전성을 확보하기 위해서는 기업 내부의 평가, 독립적인 외부 검증, 그리고 정부 차원의 감독이 함께 작동해야 한다는 의견이 지배적입니다. 평가 기관의 독립성을 보장할 법적 기준과 안정적인 재원 마련 방안이 마련되지 않으면, 외부 평가 시스템은 형식적인 절차에 그칠 수 있습니다.

결국, AI 산업이 지속적으로 발전하기 위해서는 평가 기관의 독립성과 신뢰성을 확보하는 것이 필수적입니다. 앞으로 이러한 평가 기관들이 AI 모델의 안전성을 검증하고, AI 기술이 사회에 미치는 영향을 긍정적으로 이끌어갈 수 있도록 하는 데 기여할 수 있기를 기대합니다.