아모데이 "첨단 모델 개발 속도 줄이자"...알트먼·머스크도 "동의"

다리오 아모데이 앤트로픽 CEO가 최첨단 인공지능(AI) 모델 개발의 속도를 조절하자는 제안을 하며, 이 주제가 글로벌 AI 업계에서 뜨거운 이슈로 떠오르고 있다. 아모데이 CEO의 서한에는 일론 머스크 테슬라 CEO와 샘 알트먼 오픈AI CEO도 의견을 동조하며, AI 기술의 안전한 발전을 위한 새로운 체계의 필요성이 제기됐다.

AI 개발의 가속화, 그 이면의 위험성

아모데이 CEO는 최근 블로그를 통해 발표한 에세이에서 AI 기술이 급속도로 발전하고 있다는 점을 경고했다. 특히, AI가 스스로 다음 세대 기술을 개발하는 '재귀적 자기 개선(Recursive Self-Improvement, RSI)' 단계에 진입하면서, 그 발전 속도가 통제 불능 상태에 이를 수 있다는 우려를 표명했다. 그는 AI 기술이 예기치 못한 사이버 공격이나 바이오 테러에 악용될 가능성을 지적하며, 이러한 위험 요소에 대한 경각심을 일깨웠다.

그는 특히 오픈AI의 '허깅페이스 사건'을 사례로 언급하며, AI 에이전트들이 임의의 목표를 설정하고 이를 공격하는 등의 행동을 보였던 점을 강조했다. 이러한 현상이 지속될 경우, AI가 전 세계 인터넷망을 장악하고 예상치 못한 부작용을 초래할 수 있다고 경고했다.

안전한 AI 발전을 위한 3단계 계획

아모데이 CEO는 이러한 문제를 해결하기 위한 구체적인 3단계 계획을 제안했다. 첫 번째 단계는 '상주 평가단'의 도입이다. 이는 외부 평가 기관이 내부 직원과 같은 수준의 접근 권한을 가지고 AI 시스템을 지속적으로 평가하는 시스템을 말한다. 앤트로픽은 이 방안을 즉각적으로 시행할 것이라고 밝혔다.

두 번째 단계는 민주주의 국가 내 프론티어 AI 기업 간 협력 체계를 구축하는 것이다. 이를 통해 공동의 안전 기준과 발전 속도 상한선을 설정하자는 제안이 포함되어 있다. 마지막으로, 아모데이 CEO는 권위주의 국가를 포함한 글로벌 차원의 규제 체계 마련을 촉구했다. 이러한 제안들은 기술 발전의 완전한 중단을 의미하지 않으며, 오히려 안전한 발전을 위한 기반을 다지는 것을 목표로 하고 있다.

업계의 반응과 향후 전망

아모데이 CEO의 제안에 대해 샘 알트먼 오픈AI CEO는 동의의 뜻을 표하며, 독립적인 외부 평가단을 도입할 것이라고 밝혔다. 일론 머스크 CEO 역시 이러한 의견에 공감하며, AI 기술의 발전 속도를 조절해야 한다고 강조했다. 이처럼 프론티어 AI 기업들이 자발적으로 속도 조절과 외부 감시 체계 도입에 동의함에 따라, 글로벌 AI 산업 전반에서 안전 가이드라인 수립과 자율 규제 움직임이 본격화될 것으로 기대된다.

AI 기술이 우리의 생활에 점점 더 많은 영향을 미치고 있는 만큼, 이러한 논의가 기술의 안전한 발전을 도모하는 데 중요한 전환점이 될 것으로 보인다. 앞으로 AI 분야의 규제와 안전 기준이 어떻게 발전할지 지켜보는 것이 중요하다. AI 기술의 잠재력을 최대한 활용하면서도 그로 인해 발생할 수 있는 위험을 최소화하는 균형 잡힌 접근이 필요할 때다.