알트먼·아모데이·딥시크 총출동…유엔 안보리서 'AI 안전' 논의

세계적인 AI 리더들이 유엔 안전보장이사회에 모여 AI의 안전성과 국제 안보에 대한 심도 깊은 논의를 펼친다. 샘 알트먼 오픈AI CEO, 다리오 아모데이 앤트로픽 CEO를 포함한 AI 분야의 주요 인사들이 참석할 예정이며, 이들은 AI 기술이 국제 평화에 미치는 영향을 살펴보는 데 집중할 계획이다. 이번 회의는 AI의 급격한 발전과 함께 그로 인한 위험성이 커지고 있는 상황에서 열리는 만큼, 깊은 의미를 지닌다.

유엔에서의 AI 논의, 그 배경은?

오는 23일(현지시간) 유엔 안전보장이사회에서 열리는 이번 회의는 AI 기술의 안전성과 그 관리 방안에 대한 국제적인 논의를 촉진하기 위한 자리다. 세계 각국의 정상들이 유엔총회에 참석하기 위해 뉴욕에 모인 가운데, AI의 발전이 가져올 수 있는 평화와 안보에 대한 논의는 그 어느 때보다도 중요해졌다. AI 기술이 빠르게 발전함에 따라, 그 통제와 안전 문제에 대한 우려가 커지고 있으며 이에 대한 국제적 공조의 필요성이 대두되고 있다.

특히, 이번 회의에는 클레망 들랑그 허깅페이스 CEO와 유엔 AI 독립국제과학패널의 공동 의장인 요슈아 벤지오 몬트리올대학교 교수도 참석해 발표할 예정이다. 아모데이 CEO는 화상으로 참여할 계획이며, 중국의 AI 기업들도 회의에 초청되었다. 그러나 딥시크의 창립자인 량원펑은 불참할 것으로 알려졌다. 이러한 다양한 참여자들은 AI 기술의 안전성을 확보하기 위한 다양한 관점을 공유할 것으로 기대된다.

AI의 발전과 그로 인한 위협

AI 기술이 급속도로 발전하면서, 이로 인한 통제 불능 상태에 대한 우려가 커지고 있다. 최근 몇몇 AI 기업은 고도화된 AI가 스스로를 개선하거나 인간의 통제를 벗어날 수 있다는 가능성을 제기하며, 이에 대한 국제적인 협력이 필요하다고 주장하고 있다. 이와 관련해 안토니우 구테흐스 유엔 사무총장은 최근 AI의 급속한 발전이 초래할 수 있는 위험에 대해 경고한 바 있다.

더불어, 도널드 트럼프 미국 대통령은 AI 산업의 성장을 저해해서는 안 된다는 입장을 고수하며, AI 개발 속도와 규제를 둘러싼 시각 차이를 드러내고 있다. 이러한 대립은 AI 안전 문제를 둘러싼 국제 사회의 복잡한 이해관계를 반영하고 있으며, 향후 이 문제에 대한 보다 깊이 있는 논의가 필요할 것으로 보인다.

향후 AI 안전 논의의 방향

이처럼 AI와 국제안보를 주제로 한 유엔 안보리 회의는 단순히 기술의 발전을 논의하는 자리가 아니라, 그로 인해 발생할 수 있는 위협과 안전 조치를 심도 있게 다루는 중요한 기회로 자리 잡고 있다. 미국과 중국은 AI 안전 문제를 놓고 별도의 대화를 진행하기로 합의한 상황으로, 이는 국제적인 협력이 반드시 필요한 시점임을 시사한다.

AI의 발전이 인류에 미치는 영향은 지대하기 때문에, 이번 회의를 통해 각국이 어떻게 협력하여 AI의 안전성을 높이고, 동시에 기술 발전을 지속할 수 있을지를 고민해야 할 때다. AI 기술이 인류의 안전을 위협하는 대신, 인류의 발전에 기여할 수 있도록 하는 방안이 마련되기를 기대해 본다.