앤트로픽·오픈AI·구글, 7월부터 'AI 안전 표준기구' 설립 물밑 논의

최근 앤트로픽, 오픈AI, 구글과 같은 주요 AI 기업들이 AI 산업 내 안전성 강화를 위한 공동 표준기구 설립을 논의하고 있다는 소식이 전해졌다. 이들은 지난 7월부터 비공식적인 모임을 통해 AI 기술의 안전성 평가 및 감사 기준을 마련하기 위한 실무 그룹을 구성하고 정기적으로 회의를 진행해 왔다. 이런 움직임은 AI 기술의 발전 속도와 그에 따른 위험 요소를 고려한 결과로, 업계 자율 규제를 통한 안전 기준 수립의 필요성이 강조되고 있다.

AI 안전성, 이제는 업계의 손에

앤트로픽의 다리오 아모데이 CEO는 최근 AI의 급속한 발전에 따른 위험 요소를 지적하며, 독립적인 외부 평가 기관이 AI 기술의 안전성을 검증할 수 있는 시스템 구축을 제안했다. 그는 이러한 시스템이 기업 내부 직원과 동일한 수준으로 AI 기술에 접근할 수 있도록 할 것을 강조했다. 이는 AI 모델이 점점 더 복잡해지고 강력해짐에 따라 발생할 수 있는 위험을 사전에 방지하기 위한 조치로, 정부가 규제를 마련하는 동안 기업 스스로 안전 기준을 도입하는 것이 중요하다는 인식이 반영되었다.

이와 같은 논의는 AI 업계가 자율적으로 안전성을 확보하고, 정부와의 협력을 통해 보다 효과적인 규제 환경을 조성하고자 하는 움직임으로 볼 수 있다. 오픈AI의 샘 알트먼 CEO도 AI 산업을 위한 테스트 및 감사 조직 설립의 필요성을 지지한다고 밝힌 바 있다. 다만, 정부의 지원 없이 업계 자체적으로 표준 기구를 만드는 것이 현실적인 방안일 수 있다는 점에서, 앞으로의 방향성에 대한 고민이 필요하다.

자율규제, 과연 성공할 수 있을까?

AI 자율 규제 기구의 설립은 새로운 시도로, 이와 유사한 기구는 이미 금융업계에서는 운영되고 있다. 구글의 딥마인드 회장인 데미스 허사비스는 미국 금융산업규제당국(FINRA)과 유사한 AI 자율 규제 기구의 필요성을 언급하며, AI 기업들이 공동으로 모델의 안전성을 관리하자는 제안을 한 바 있다. 그러나 이러한 계획은 아직까지 명확한 실행 방안이나 합의가 이루어지지 않은 상태이다.

문제는 AI 업계 내부에서도 의견이 분분하다는 점이다. 전 백악관 AI 정책 책임자 데이비드 색스는 정부의 개입 없이도 AI 기업들이 자율적으로 협력할 수 있다고 주장하는 반면, 에이든 고메스 코히어 CEO는 대형 AI 기업들이 규칙을 정하게 되면 후발 기업들의 경쟁력을 저하시킬 수 있다고 경고하고 있다. 이와 같은 우려는 대형 기업들이 시장에서 '카르텔'을 형성할 수 있다는 점에서 더욱 심각하게 받아들여지고 있다.

미래는 어떻게 구상될까?

AI 산업의 지속적인 발전과 그에 따른 안전성 이슈는 이제 더 이상 미룰 수 없는 과제가 되었다. 앤트로픽, 오픈AI, 구글 등 주요 기업들이 자율 규제의 필요성을 인식하고 공동 표준기구 설립을 위해 협력하는 것은 긍정적인 신호로 볼 수 있다. 이들이 마련할 기준이 실제로 안전성을 높이는 데 기여할 수 있을지, 그리고 정부와의 관계가 어떻게 설정될지에 대한 주의 깊은 관찰이 필요하다.

AI 기술이 우리 삶에 깊숙이 침투하게 되면서, 그 안전성을 확보하는 것은 기업뿐만 아니라 사회 전체의 책임이 되었다. 이러한 변화가 AI의 발전에 긍정적인 영향을 미치길 기대해 본다.