중국 AI 모델 안전성 평가 공개율 3.6%...출시 전 공개는 고작 1.1%

중국의 AI 안전성 평가 공개 비율이 매우 낮다는 조사 결과가 발표됐다. AI 모델을 출시하는 과정에서 안전성 검증 결과를 미리 공개하는 비율이 단 1.1%에 불과하고, 출시 후에 공개된 사례를 포함하더라도 전체의 3.6%에 그치는 것으로 나타났다. 이는 AI 기술의 신뢰성을 확보하기 위한 투명한 절차가 부족하다는 점을 시사한다.

낮은 공개 비율, 무엇이 문제인가?

AI 분석 전문 기업 세미애널리시스가 발표한 보고서에 따르면, 2021년부터 2026년 9월 15일까지 중국의 주요 AI 개발사들이 출시한 857개의 모델 중에서 개별 모델의 안전성 검증 결과가 공개된 경우는 단 31개, 즉 3.6%에 해당했다. 더욱 놀라운 것은 이 중 출시 시점이나 그 이전에 안전성 평가 결과를 공개한 모델이 9개에 불과하다는 점이다. 나머지 813개 모델은 그 어떤 안전성 평가 결과도 확인되지 않았다. 이는 AI 기업들이 내부적으로 안전성 테스트를 진행했더라도 그 결과를 외부에 공개하지 않음을 의미한다.

안전성 평가 항목은 유해한 출력, 개인정보 보호, 위험한 기능 수행 능력 등 다양한 분야를 포함하고 있으나, 이러한 평가 결과의 공개가 이루어지지 않으면서 소비자들은 AI 기술의 신뢰성에 의문을 가질 수밖에 없다. 특히, 연구에 따르면 출시 이후 안전성 평가 결과를 공개한 사례의 중앙값은 출시일로부터 42일 후이며, 최장 349일이 걸린 경우도 있었다.

규제의 한계, 실질적 변화는?

중국 정부는 AI 안전성을 강조하며 다양한 규제를 도입하고 있지만, 실제로는 모델의 위험 평가와 공개 의무를 부과하는 체계가 부족하다는 비판이 제기되고 있다. 현재의 규제는 AI 서비스의 콘텐츠와 이용자에게 미치는 영향에 초점을 맞추고 있으며, 모델 자체의 위험성을 충분히 다루고 있지 않은 상황이다.

세미애널리시스는 이러한 상황이 중국의 AI 기업들이 사이버 공격, 생물학적 위험, 인간 통제 상실 가능성 등을 포함하는 포괄적인 안전성 평가를 제대로 수행하지 못하도록 만들고 있다고 지적했다. 반면, 미국의 주요 기업들은 안전성 평가 결과를 선제적으로 공개하며 투명성을 높이고 있는 상황이다.

이러한 상황에서 Z.ai는 2022년 이후 매년 안전성 평가 결과를 공개한 유일한 기업으로 부각되며, 그 외 기업들은 상대적으로 낮은 공개 비율을 보이고 있다. 알리바바와 텐센트 등 대형 기업들도 일부 모델에 대해서만 평가 결과를 공개하는 모습을 보이고 있다.

미래를 위한 길

중국 정부는 최근 ‘AI 안전 거버넌스 프레임워크 3.0’을 발표하며 AI의 안전 문제를 다루고 있으나, 실질적인 변화가 필요하다는 목소리가 높아지고 있다. AI 기술이 발전함에 따라 그 위험성도 증가하고 있으며, 이를 관리하기 위한 투명한 평가 시스템이 필수적이라는 지적이 설득력을 얻고 있다.

AI의 안전성에 대한 규제가 강화되고, 기업들이 적극적으로 안전성 평가 결과를 공개하는 문화가 자리 잡을 수 있다면, 소비자들의 신뢰를 얻고 더욱 안전한 AI 생태계를 구축할 수 있을 것이다. 그러나 현재로서는 개발 속도가 안전성보다 우선시되고 있는 만큼, 기업과 정부 간의 협력이 더욱 필요하다. 앞으로 중국 AI 산업이 안전성과 혁신을 동시에 추구할 수 있기를 기대해 본다.