찰스 3세, 젠슨 황·허사비스 만나 "AI 통제 수단 마련해야"

찰스 3세, AI 안전성 확보의 필요성 강조

최근 영국의 찰스 3세 국왕이 세계 주요 AI 기업의 리더들과 만남을 갖고, 인공지능(AI)의 급속한 발전과 그에 따른 안전 문제에 대해 심도 깊은 논의를 진행했다. 찰스 국왕은 AI의 잠재적 위험성을 경고하며, 기술이 악의적인 세력의 손에 넘어가거나, 통제를 벗어날 가능성에 대비한 안전장치 마련이 시급하다고 강조했다. 이번 회의는 스코틀랜드 에어셔의 덤프리스 하우스에서 진행되었으며, 엔비디아의 젠슨 황 CEO, 구글 딥마인드의 데미스 허사비스 회장 등 저명한 인사들이 참석했다.

AI의 잠재력과 위험

찰스 국왕은 AI가 생명과학 및 의료 분야에서 인간의 삶을 개선할 수 있는 잠재력이 크다고 언급했다. 그러나 그는 개발자들조차 AI가 통제할 수 없는 위험한 능력을 가질 수 있다는 점을 우려했다. AI가 잘못된 손에 들어가면 생명까지 위협할 수 있는 만큼, 그에 대한 존재론적 위험을 신중히 고려해야 한다고 말했다. 그는 “너무 늦기 전에 충분한 통제 수단이 필요하지 않겠느냐”라는 질문으로 참석자들에게 경각심을 일깨웠다.

이 자리에서 황 CEO는 “AI 개발에 있어 책임 있는 낙관주의가 필요하다”고 강조하며, 출시 전 안전성을 더욱 철저히 검토해야 한다고 주장했다. 그는 “준비가 되지 않았다면 그냥 보류하라”는 단호한 메시지를 전하며, AI 개발의 속도에 대해 신중한 접근이 필요함을 역설했다.

협력의 필요성

허사비스 회장 역시 AI의 발전이 가져올 문제에 대해 경고했다. 그는 인공지능이 곧 인간 수준의 다양한 능력을 갖춘 AGI(인공지능 일반화)에 도달할 것이라는 전망을 내놓으면서도, 그 과정에서 발생할 수 있는 문제의 가능성을 간과해서는 안 된다고 말했다. 그는 인류가 AI의 발전에 발맞춰 대응할 시간과 여지를 확보하는 것이 중요하다고 강조했다.

사라 프라이어 오픈AI CFO도 AI가 사회의 복잡한 문제를 해결할 수 있는 잠재력을 인정하면서, 기술 발전과 함께 안전성을 어떻게 확보할 것인가에 대한 질문을 던졌다. 그는 이러한 문제는 단독으로 해결할 수 있는 것이 아니라, 기업과 정부 간의 협력이 필요하다고 주장했다. 이는 현재 AI의 안전성 확보를 위한 국제적 논의의 일환으로 볼 수 있다.

미래를 위한 대화

이번 회의에서는 즉각적인 구속력 있는 합의는 도출되지 않았지만, 영국 정부는 이 논의가 AI를 책임 있게 개발하기 위한 연속적인 대화의 일부라고 설명했다. 영국 AI 장관도 기업들이 AI를 인류의 이익을 위해 개발하도록 유도하는 것이 이번 논의의 핵심이라고 밝혔다.

찰스 국왕의 이번 행보는 AI 기술의 발전 속도와 그에 따른 안전장치 마련 사이의 균형을 맞추기 위한 노력으로, 앞으로도 이러한 대화가 지속될 필요가 있음을 시사한다. AI의 발전이 인류에게 혜택을 가져다줄 수 있도록 하는 동시에, 그 위험을 최소화하기 위한 국제적 협력이 중요해질 것이다. 기술의 안전과 발전이 공존할 수 있는 길을 찾는 데 이 회의가 단초가 되기를 기대해본다.