구글·MS도 "AI 속도 조절 동감"...'안전 연합전선' 5곳으로 확대

최첨단 AI 개발의 안전성 확보를 위한 연합전선이 확장되고 있다. 최근 구글과 마이크로소프트(MS) 등 주요 IT 기업들이 AI 개발의 속도를 조절하고 안전성을 우선시해야 한다는 의견에 동조하며 새로운 움직임을 보이고 있다. 이는 다리오 아모데이 앤트로픽 CEO의 제안에서 시작된 것으로, AI 기술의 잠재적 위험성을 고려해야 한다는 점에서 많은 공감대를 형성하고 있다.

AI 개발 속도 조절의 필요성

AI 기술은 날로 발전하고 있으며, 그에 따라 사회 전반에 미치는 영향력 또한 커지고 있다. 아모데이 CEO는 AI 개발의 속도를 낮추고 독립적인 안전성 검증 프로세스를 강화해야 한다고 주장했다. 이는 AI의 발전이 가져올 수 있는 부작용과 위험성을 충분히 고려해야 한다는 경각심에서 비롯된 것이다.

구글의 데미스 허사비스 딥마인드 회장은 아모데이의 제안을 지지하며, AI 업계가 공동으로 안전성 기준을 세우고 대응해야 한다고 강조했다. 그는 "이 시점에서 우리가 방향성을 올바르게 잡는 것이 매우 중요하다"며, 업계 차원의 협력이 필요하다고 언급했다. 이러한 목소리는 단순한 개인 의견이 아닌, 여러 기업의 리더들이 함께하는 대화의 일환이다.

AI 안전성 확보를 위한 협력

AI 기술의 안전성을 확보하기 위한 노력은 이미 시작되었다. 앤트로픽, 오픈AI, 구글은 지난 7월부터 CEO급 이하의 실무진으로 구성된 워킹그룹을 운영하며 AI 기술의 감사 및 평가 기준을 마련하는 작업을 진행 중이다. 이 워킹그룹은 향후 공동 표준기구의 설립도 논의하고 있어, AI 분야의 안전성을 높이기 위한 체계적인 접근이 이루어질 것으로 기대된다.

사티아 나델라 MS CEO 또한 아모데이의 제안에 긍정적인 의견을 내비쳤다. 그는 AI의 발전이 인류에게 도움이 되도록 통제되어야 한다는 원칙을 강조하며, "AI 정렬(alignment) 문제를 올바르게 해결하기 위해서는 연구와 집중이 필요하다"고 말했다. 나델라는 AI 시스템에 '내장형 평가자(embedded evaluators)'를 도입하는 방안도 지지하며, 이를 통해 AI의 위험성과 안전성을 지속적으로 평가할 수 있는 체계를 마련해야 한다고 주장했다.

향후 전망 및 의미

이번 일련의 움직임은 AI 기술의 안전성을 확보하기 위한 중요한 전환점을 시사한다. 구글과 MS의 동참으로 앤트로픽과 오픈AI, 스페이스X의 AI 조직 xAI 등 5개 주요 기업이 AI의 안전성을 위해 연합한 셈이다. 이러한 협력은 AI의 발전이 가져올 수 있는 잠재적 위험을 사전에 방지하는 데 기여할 것으로 기대된다.

반면, 모든 빅테크 기업이 같은 입장을 취하는 것은 아니다. AI 기술의 핵심 기업 중 하나인 엔비디아의 젠슨 황 CEO는 AI가 인류를 멸망시킬 것이라는 주장을 부정하며, 아모데이의 제안에 대한 공식적인 입장을 내놓지 않았다. 이는 향후 AI 안전성 논의가 더 확대될 필요가 있음을 나타내는 대목이다.

AI 기술이 인간 사회에 미치는 영향이 커짐에 따라, 이러한 안전성 논의는 앞으로도 지속적으로 이어져야 한다. 이제는 기술의 발전이 인류의 삶에 긍정적인 영향을 미칠 수 있도록, 기술자들과 기업들이 함께 노력해야 할 시점이다.