알트먼 "통제권 상실·권력 집중 경계"...AI 속도 조절 배경 밝혔다

샘 알트먼 오픈AI CEO는 최근 인공지능(AI) 기술의 발전 속도를 조절해야 할 이유를 명확히 밝혔다. 그는 인류의 미래에 대한 통제권 상실과 AI의 권력 집중이라는 두 가지 중대한 위험 요소를 지적하며, 이러한 문제들을 해결하기 위한 노력이 시급하다고 강조했다. 알트먼은 14일(현지시간) 소셜 미디어 플랫폼 X에 게시물을 통해 이 같은 주장을 피력하며 AI 개발의 방향성과 안전성을 다시 한 번 점검해야 한다고 촉구했다.

인류의 통제권 상실 우려

알트먼 CEO는 AI 기술이 급속도로 발전하면서 인간이 이 시스템을 이해하고 통제할 수 있는 능력이 점차 약해질 수 있음을 우려했다. 특히 AI가 스스로 성능을 개선하는 '재귀적 자기개선(Recursive Self-Improvement)'을 통해 더 강력해질 경우, 인간의 통제력이 상실될 위험이 커진다고 강조했다. 그는 AI의 능력이 급격히 향상되는 만큼, 이를 안전하게 관리할 수 있는 기술과 시스템이 우선적으로 개발되어야 한다고 주장했다. 오픈AI는 이미 AI 모델의 성능 향상이 이루어지기 전, 안전성 검토 절차를 도입하여 위험 요소를 사전에 차단하는 체계를 마련했다고 밝혔다.

권력 집중에 대한 경계

두 번째로 알트먼은 AI의 권력이 특정 개인이나 기업, 국가에 집중될 경우 발생할 수 있는 디스토피아적인 결과에 대해 경고했다. 강력한 AI를 독점하는 주체가 자신의 가치관을 다른 이들에게 강요할 수 있는 가능성은 심각한 사회적 문제로 발전할 수 있다. 따라서 AI의 개발 과정에서 안전성과 권력의 집중 문제를 함께 다루어야 한다는 점을 재차 강조했다. 그는 이러한 안전성 평가와 모니터링에는 상당한 비용이 들 수 있으며, 개발 속도를 늦추는 대가도 감수해야 한다고 인정하면서도, 이 모든 과정은 반드시 필요한 과정이라고 덧붙였다.

속도 조절의 필요성과 방향

알트먼은 AI 개발 속도를 조절하는 것이 단순히 중단을 의미하는 것이 아님을 분명히 했다. 이는 AI 발전이 지속되어야 한다는 점을 인정하면서도, 안전장치가 따라갈 수 있는 수준에서 개발 속도를 관리해야 한다는 의미로 해석된다. 그는 AI 발전의 지속성은 중요하지만, 그 과정에서 발생할 수 있는 위험 요소들을 사전에 차단하기 위한 노력이 필수적이라고 강조했다.

알트먼의 주장은 다리오 아모데이 앤트로픽 CEO의 속도 조절론을 한층 발전시킨 것으로, 외부 평가와 기업 간의 협력을 강조하면서도, 연방 차원의 규제를 통해 보다 체계적인 대응 방안을 제시했다. 그러나 미중 간의 AI 패권 경쟁이 치열해지는 상황에서 국제적인 협력이 실제로 이뤄질지는 여전히 불확실한 상태다.

알트먼은 정부가 국제적인 조율을 지원해야 한다고 언급하면서도, "우선 우리가 할 수 있는 일부터 해야 한다"는 의지를 내비쳤다. 이는 AI 기술이 인류에게 긍정적인 영향을 미치기 위해서는 안전성과 효율성을 동시에 고려해야 한다는 점을 상기시키는 발언이다.

향후 AI 기술의 발전은 불가피할 것이지만, 안전성과 인류의 통제권이 보장된 방향으로 나아가야 한다는 알트먼의 메시지는 앞으로의 AI 발전에 시사하는 바가 크다. AI와의 공존을 위한 지혜로운 선택이 필요한 시점이다.