오픈AI, 미 정부에 차세대 AI 안전 기준 촉구..."RSI 통제력 잃을 수도"

오픈AI가 미국 정부에 차세대 인공지능(AI) 안전 기준 마련을 촉구하며, 국제적인 협력이 시급하다는 입장을 발표했습니다. 특히 재귀적 자기개선(Recursive Self-Improvement, RSI) 기술이 발달할 경우, AI가 스스로 능력을 개선하는 과정에서 발생할 수 있는 잠재적 위험을 강조했습니다. 이는 기술 발전 속도가 비약적으로 빨라질 수 있음을 의미하며, 이에 따른 안전과 보안을 보장하기 위한 공통 기준이 필요하다는 주장입니다.

AI의 자율적 발전과 안전 기준 필요성

오픈AI는 21일(현지시간) 유엔 총회 고위급 회의의 개막에 맞춰 블로그를 통해 이 같은 내용을 발표했습니다. AI가 스스로 학습하고 발전하는 과정이 자동화되는 만큼, 이를 통제할 수 있는 안전 기준의 필요성이 절실하다고 강조했습니다. 이 과정에서 RSI는 AI 시스템이 인간의 개입 없이도 연구와 개발을 이어가는 방식을 의미하며, 이러한 단계가 본격화되면 안전 문제는 더욱 복잡해질 수 있습니다.

오픈AI는 AI 연구의 자동화 수준을 평가할 수 있는 공통 지표와 안전사고 분류 및 대응을 위한 국제 프로토콜의 구축을 제안했습니다. 이는 각국이 서로 다른 기준으로 AI를 평가하고, 사고 발생 시 공동으로 대응하기 어렵다는 점에서 매우 중요한 대안으로 제시되고 있습니다.

국제 협력의 필요성과 도전 과제

오픈AI의 CEO 샘 알트먼은 오는 23일 프랑스에서 열리는 유엔 안전보장이사회에서 AI와 국제 안전 문제를 주제로 브리핑을 진행할 예정입니다. 그는 AI 기술의 발전 속도를 조절하는 것이 아니라, 안전장치의 개발이 우선시 되어야 한다고 역설했습니다. 각국의 규제와 평가 체계가 상이하기 때문에, 공통의 기술 기준을 마련하는 것이 필수적이라는 점도 강조했습니다.

이와 함께, 미국의 AI 표준 혁신센터(CAISI)는 이미 AI 안전 연구소가 설립된 한국, 영국, 일본 등을 포함한 여러 국가와 협력하여 공통 기준을 마련할 방안을 모색하고 있습니다. 하지만 오픈AI는 이러한 국제 표준이 AI 모델 출시를 위한 사전 승인제로 운영되어서는 안 된다고 명확히 밝혔습니다. 각국 정부는 자국 법률에 따라 이 기준을 적용할 수 있는 권한이 있다는 점을 분명히 했습니다.

앞으로의 방향성과 의미

오픈AI가 제안한 안전 기준 마련의 필요성은 단순히 기술적 안전을 넘어, 국제 사회에서 AI 기술의 방향성을 설정하는 데 큰 의미를 갖습니다. AI가 국경을 초월해 활용되는 시대에, 각국이 공동으로 안전 기준을 수립하고 위험을 관리하는 것은 필수적인 과제가 될 것입니다. 그러나 미국 정부는 중국과의 기술 경쟁을 고려해 신중한 접근을 하고 있는 상황입니다. 이는 AI 안전 기준 마련의 필요성과 각국 간 협력의 중요성을 더욱 부각시키고 있습니다.

향후 AI 기술의 발전이 지속됨에 따라, 오픈AI와 같은 기관의 역할과 국제적인 협력의 중요성이 더욱 강조될 것으로 보입니다. AI가 가져올 혁신적인 변화와 함께 안전한 기술 환경을 조성하기 위한 논의가 활발히 이루어져야 할 때입니다.