구글·오픈AI·앤트로픽, 자율 규제기구 'SAFA' 연내 출범 추진

구글, 오픈AI, 앤트로픽, AI 안전 기준 마련을 위한 자율 규제 기구 설립 추진

최첨단 인공지능(AI) 기술을 선도하는 구글, 오픈AI, 앤트로픽이 정부의 직접적인 감독 없이 AI 모델의 안전 기준을 설정하기 위한 업계 자율 규제 기구, '프런티어 AI 표준기구(SAFA)' 설립을 추진하고 있습니다. 이 기구는 올해 말 또는 2027년 초를 목표로 출범할 예정이며, AI 모델의 안전성을 높이고 잠재적인 사고를 방지하기 위한 핵심 역할을 맡을 것으로 기대됩니다.

SAFA, AI 안전성 평가의 새로운 기준

SAFA는 최첨단 AI 모델 출시 전 제3자 안전성 평가를 지원하고, 안전과 보안 사고에 대한 보고 절차를 규정하는 기능을 수행하게 됩니다. 이를 통해 각 기업이 자율적으로 약속한 안전 조치를 실질적인 기준으로 구체화하고, 독립 감사인의 자격 요건도 마련할 계획입니다. 현재 미국 상무부 산하 AI 표준·혁신센터(CAISI)가 이와 유사한 역할을 수행하고 있으나, 그들의 자원이 부족하다는 지적이 많아 SAFA는 보완적인 검토 역할을 할 것으로 보입니다.

이 기구의 출범 추진은 지난 7월, 구글 딥마인드의 데미스 허사비스 회장이 민관 협력 기구 설립을 제안하면서 본격화되었습니다. 하지만 메타의 마크 저커버그 CEO와 엔비디아의 젠슨 황 CEO 등이 공개적으로 회의적인 입장을 보이면서 이 과정은 다소 난항을 겪고 있습니다. 정치적 상황도 이들 기업의 의사결정에 영향을 미치고 있으며, 정부 차원의 정책 추진이 지체되자 자율 규제로 방향을 선회한 것입니다.

새로운 인물들, SAFA의 미래를 이끌다

현재 SAFA의 인선 작업도 활발히 진행 중입니다. CEO 후보로는 트럼프 행정부의 AI 정책 고문 출신 스리람 크리슈난과 바이든 행정부의 백악관 과학기술정책실장을 지낸 아라티 프라바카르가 거론되고 있습니다. 의장 후보로는 전 국무장관인 콘돌리자 라이스와 벤처투자가 데이비드 프리드버그가 이름을 올렸습니다. 이들은 AI 안전 기준 마련과 관련하여 풍부한 경험과 지식을 바탕으로 기구의 방향성을 제시할 것으로 기대됩니다.

특히 최근 오픈AI의 허깅페이스 해킹 사건과 같은 사례들은 최첨단 AI 모델의 위험성을 다시 한번 상기시켜주고 있습니다. 샘 알트먼 오픈AI CEO는 유엔 안전보장이사회 연설에서 "AI와 관련된 중요한 결정은 단순히 특정 연구소에서만 이뤄져서는 안 된다"며, 민주적인 절차와 정부의 책임성을 강조했습니다.

SAFA의 도전과 미래 전망

그러나 SAFA의 출범은 여러 과제를 안고 있습니다. 기존에 운영 중인 '프런티어 모델 포럼(FMF)'과의 역할 중복 문제, 그리고 오픈소스 모델 개발사들이 초기 평가 대상에서 제외되는 등의 비판은 여전히 존재합니다. 비판론자들은 이들 대형 기업이 경쟁업체를 배제하는 규제 장벽을 만들 수 있다고 우려하고 있습니다. SAFA 측은 이러한 우려를 의식하여, 향후 객관적인 평가 기준을 정립하고 일정 요건을 충족하는 모델과 개발사로 관할 범위를 확대해 나갈 계획이라고 밝혔습니다.

결론적으로, SAFA의 출범은 AI의 안전성과 윤리성을 높이는 데 중요한 이정표가 될 것으로 보입니다. 기술 발전이 지속되는 가운데, 기업들이 자율적으로 안전 기준을 마련하는 것은 AI 생태계의 건전한 발전을 위한 필수적인 요소로 자리잡을 것입니다. 과연 SAFA가 어떤 방향으로 나아갈지, 업계의 이목이 집중되고 있습니다.