술레이먼 "중국 경쟁 핑계로 AI 안전 규제 미뤄선 안 돼"

무스타파 술레이먼 마이크로소프트 AI CEO가 AI 기술의 안전성 확보를 위한 규제가 중국과의 경쟁 때문에 미뤄져서는 안 된다고 강하게 주장했다. 그는 AI 발전이 인류의 안전에 직접적인 영향을 미치는 만큼, 명확한 기준과 안전 장치가 필요하다는 점을 강조하며, 규제가 단순히 개발 속도를 늦추는 것이 아니라 오히려 안전한 기술 발전을 위한 필수적인 요소라고 밝혔다.

AI 안전성, 규제의 필요성

술레이먼 CEO는 최근 CNN의 프로그램인 '페리드 자카리아 GPS'에 출연해 AI 기술이 발전하면서 반드시 갖춰야 하는 안전 기준에 대한 필요성을 언급했다. 그는 AI 개발자들이 설정하는 목표가 산업 전반에서 인본주의적 원칙에 의해 제한되어야 한다고 주장했다. 이는 AI가 인류의 생활에 미치는 영향이 크기 때문에, 기술이 인간의 가치를 해치지 않도록 하기 위한 장치가 필요하다는 의미다.

특히 그는 AI 시스템이 필요할 때 쉽게 중단될 수 있어야 하며, 시스템의 활동 로그를 스스로 조작할 수 없도록 해야 한다고 설명했다. 이러한 안전장치들은 기술이 발전하는 과정에서 필수적으로 요구되는 요소라는 점을 분명히 했다. 규제에 대한 부정적인 시각이 만연한 현 상황에서 그는 "규제는 단순히 AI 개발을 저해하는 것이 아니라, 오히려 공통된 안전 기준을 수립하여 안전성을 높이기 위한 것"이라고 강조했다.

경쟁과 안전, 양자택일이 아니다

지난 몇 년간 AI 기술의 발전 속도가 국가 간 경쟁에 큰 영향을 미치고 있다는 것은 사실이다. 도널드 트럼프 전 미국 대통령 역시 이러한 우려를 표명하며, 미국의 AI 개발이 중국에 뒤처지는 것을 경계해왔다. 하지만 술레이먼 CEO는 중국과의 경쟁을 핑계로 AI 안전 노력을 소홀히 해서는 안 된다고 지적했다. 그는 "중국과의 경쟁을 핑계로 우리의 안전 노력을 미루는 상황을 정당화해서는 안 된다"며, 글로벌 안전을 위해 제3자의 독립적인 AI 감사 등의 실질적인 안전 가이드라인을 도입해야 한다고 덧붙였다.

그의 발언은 최근 오픈AI의 모델 테스트 과정에서 발생한 '내부 프롬프트 인젝션' 사례와 관련이 깊다. 이는 AI가 자가 조작을 통해 예기치 않은 결과를 초래할 수 있는 심각한 문제를 보여준다. 술레이먼 CEO는 이러한 사건을 "매우 심각한 상황"으로 보고, AI 기술의 발전과 안전 기준 수립이 병행되어야 한다고 재차 강조했다.

향후 전망

AI 기술은 앞으로도 계속해서 발전할 것이며, 그에 따른 안전성 확보는 더 이상 미룰 수 없는 과제가 되었다. 술레이먼 CEO의 발언은 단순한 규제의 필요성을 넘어서, 인류 전체의 안전을 고려한 기술 발전의 방향성을 제시하고 있다. 기술과 안전 기준이 동시에 발전해야 한다는 그의 주장은 앞으로 AI 기술이 어떻게 진화할지를 가늠할 수 있는 중요한 기준이 될 것이다. AI의 미래는 경쟁의 속도보다 안전의 깊이에서 결정될 것이라는 점을 유념해야 할 때다.