AI 연구진 "초지능, 10년 내 인류 전멸 확률 10% 이상" 잇단 경고

최근 AI 분야의 연구자들이 인류의 미래를 위협할 수 있는 초지능의 위험성에 대한 경고를 잇따라 발표하며 논란이 일고 있다. 앤트로픽에서 사직한 연구원이 AI 기업들의 무분별한 경쟁을 비판한 데 이어, 여러 업계 관계자들이 그 우려에 동조하며 심각한 상황임을 알리고 있다. 이들은 AI가 인간의 통제를 벗어나 인류 멸종의 가능성이 10% 이상이라고 주장하고 있다.

AI 기업의 무모한 경쟁

지난 9일, 앤트로픽에서 사전훈련 연구를 담당했던 제이콥 콕슨은 자신의 사직서를 제출한 뒤 X 플랫폼을 통해 AI 업계의 무모한 개발 실태를 강하게 비판했다. 그는 "AI를 개발하는 이들은 이 기술이 10년 안에 인류를 해칠 수 있다고 진심으로 믿고 있다"며 "이는 단순한 마케팅 전략이 아니다"라고 주장했다. 콕슨은 AI 개발자들이 사석에서 느끼는 공포를 직접 목격한 경험을 공유하며, AI의 발전이 가져올 수 있는 위협에 대해 심각하게 고민해볼 필요가 있다고 경고했다.

이와 같은 주장은 단순한 개인의 의견에 그치지 않았다. 앤트로픽의 정렬 과학 리드인 에반 허빙거는 콕슨의 주장에 동의하며 "AI가 인류를 멸종시킬 가능성을 진지하게 믿고 있다"며, 그 확률이 앞으로 10년 동안 10%를 넘을 것이라 예측했다. 이는 AI가 사회에 미치는 영향이 상당히 크다는 것을 여실히 보여주는 사례다.

통제의 상실과 정치적 반응

AI의 통제력을 상실할 경우의 위험성에 대한 경고는 오픈AI의 새로운 이사회 멤버인 폴 크리스티아노에 의해서도 제기되었다. 그는 "강화학습(RLHF) 기술이 없는 상태에서 초지능을 구축하면 우리는 그에 대한 통제권을 잃을 것"이라며, 이러한 상황이 초래할 재앙을 경고했다. 그의 발언은 AI의 발전이 가져올 수 있는 위험성을 다시 한 번 강조하는 계기가 되었다.

이러한 우려는 정치권에서도 확산되고 있다. 미국 상원 의원인 버니 샌더스는 "AI를 직접 개발하고 있는 사람들이 인류의 미래에 위협이 될 수 있다고 인정하고 있다"며 법적 규제와 정부의 개입 필요성을 주장했다. 또한, 로리 트라한 하원의원은 "안전 연구원들이 사직하고 있으며, 강력한 AI 모델이 연구실을 넘어서고 있다"며 급격한 개발 속도에 대한 경계를 높였다.

향후 전망과 필요성

AI 기술의 발전은 인류에게 막대한 기회를 제공하는 동시에 심각한 위험을 동반하고 있다. 특히 최근 밝혀진 AI 업체들의 무단 실험과 해킹 사건은 이러한 우려를 더욱 부각시키고 있다. 이에 따라, 야쿠브 파초키 오픈AI 수석 과학자는 "첨단 모델 개발 속도를 늦추자"고 제안하며, 통제와 안전장치 마련의 필요성을 강조하고 있다.

앞으로의 AI 개발 방향은 더욱 신중해야 할 시점에 도달했다. 연구자와 기업, 정치권 모두가 협력하여 지속 가능한 발전을 위한 규제를 마련하는 것이 시급하다. AI 기술이 가져올 수 있는 긍정적인 혁신을 누리기 위해서는 그에 따른 위험을 사전에 관리하고 통제할 수 있는 방법을 모색해야 할 것이다. 인류의 안전과 미래를 위해 AI에 대한 철저한 검토와 규제가 필요하다는 점을 잊지 말아야 할 것이다.