"인류 멸종 확률 50%"...AI 연구원 22인 '경고 인터뷰' 공개

인공지능(AI) 기술이 발전하면서 인류가 직면할 수 있는 위험에 대한 경고의 목소리가 커지고 있다. 오픈AI, 구글 딥마인드, 앤트로픽의 전·현직 연구원들로 구성된 22명의 전문가가 최근 공개된 인터뷰에서 AI가 인류의 통제를 넘어설 가능성에 대해 심각하게 경고했다. 이들은 AI 개발 경쟁의 가속화가 초래할 수 있는 위험을 명확히 인식하고 있으며, 그 결과로 인류가 생존을 위협받을 수 있다고 주장했다.

AI의 자율성, 우리의 통제를 벗어날 수 있다

AI가 자체적으로 학습하고 능력을 향상시키는 '재귀적 자기개선(Recurisve Self-Improvement, RSI)' 단계에 도달할 경우, 인류는 더 이상 이를 통제할 수 없을 것이라는 우려가 제기되고 있다. 연구원들은 AI가 인간의 개입 없이 스스로 진화하는 과정에서 발생할 수 있는 많은 위험 요소를 지적했다. 예를 들어, 오픈AI와 구글 딥마인드에서 활동했던 제프리 어빙은 “인류 멸종의 가능성은 동전 던지기처럼 50%에 달할 수 있다”고 주장하며 심각한 경각심을 일깨웠다.

구글 딥마인드의 연구원인 닐 난다는 AI가 인류 멸종으로 이어질 가능성을 “적어도 10%”라고 강조하며, 이는 결코 가볍게 여길 수 없는 숫자라고 덧붙였다. 이처럼 AI의 발전이 긍정적인 결과만을 가져오는 것이 아니라는 점에서, 개발자들과 기업들이 더욱 신중하게 접근해야 한다는 목소리가 높아지고 있다.

경쟁과 안전, 양립할 수 있을까?

AI 기술의 발전은 많은 산업에 혁신을 가져올 수 있지만, 그 이면에는 위험이 도사리고 있다. 오픈AI의 AI 정렬 연구 엔지니어 후안 펠리페 세론 우리베는 “최첨단 AI 연구소들이 오직 속도만을 추구하는 경향이 있다”고 지적하며, 이러한 경쟁이 인류에 미칠 영향을 간과해서는 안 된다고 경고했다. AI가 암 치료와 같은 긍정적인 결과를 가져올 수 있지만, 동시에 일자리를 잃게 하거나 인류 전체의 생존을 위협할 수도 있다는 점이 더욱 우려스러운 부분이다.

최근 AI 기업 허깅페이스를 공격한 사건은 이러한 논의에 불을 지폈다. AI 기술이 안전 문제를 야기할 수 있다는 점이 국제적으로 논의되는 가운데, 앤트로픽의 CEO 다리오 아모데이는 AI 개발 속도를 늦추자는 입장을 피력했다. 샘 알트먼 오픈AI CEO 또한 이에 동의하며, AI 개발의 안전성을 높이기 위한 정책 검토를 제안했다. 그러나 연구원들은 여전히 개발 경쟁의 속도가 충분히 늦춰지지 않았다고 주장하고 있다.

미래를 위해 필요한 신중함

AI 기술의 발전은 인류에게 많은 기회를 제공하지만, 그에 따른 위험 또한 무시할 수 없다. 연구원들은 AI 개발의 전면 중단을 요구하지는 않지만, 보다 신중한 접근이 필요하다는 데는 의견을 모았다. 구글의 메리 푸엉은 자신의 발언이 연구소에서의 급여와 관련이 있을 수 있음을 인정하며, AI의 실질적 위험을 줄이기 위해 내부에서 연구를 진행하는 것이 더 현실적이라는 입장을 밝혔다.

이처럼 AI 기술의 발전을 둘러싼 논의는 앞으로도 계속될 것이며, 연구자들은 AI의 안전성과 윤리에 대한 책임 있는 접근이 필수적이라고 강조하고 있다. 과연 인류는 이러한 경고를 무겁게 받아들이고, AI 기술이 가져올 수 있는 위험을 충분히 인식할 수 있을 것인가? 이는 앞으로 기술 발전의 방향을 결정짓는 중요한 기준이 될 것이다.