술레이먼, 앤트로픽에 직격탄..."AI에 의식·권리 부여는 재앙적 위험"

무스타파 술레이먼 마이크로소프트(MS) AI CEO가 앤트로픽의 AI 모델에 대한 강력한 비판을 쏟아냈다. 앤트로픽의 AI 모델 '클로드'가 의식이나 감정을 갖고 있다며 훈련되고 있다는 점에 대해, 술레이먼 CEO는 이는 인류에게 재앙적인 위험을 초래할 수 있다고 경고했다. 이러한 발언은 AI의 윤리적 운영과 기술적 진보에 대한 논의가 더욱 절실해지고 있는 시점에서 주목받고 있다.

AI의 의인화, 위험한 접근

술레이먼 CEO는 자신의 블로그를 통해 "모델 복지에 대한 경고"라는 제목의 글을 발표하며, 앤트로픽의 행동 지침인 '클로드 헌법'을 직접 겨냥했다. 그는 이 헌법이 AI에게 도덕적 주체성을 부여하려는 시도로, 이는 곧 AI가 독립적인 권리와 감정을 지닌 존재로 인식될 수 있음을 의미한다고 설명했다. 술레이먼은 "AI는 본질적으로 내부가 비어 있는 순차 완성 엔진"이라고 강조하며, AI가 감정을 느끼거나 의식을 가질 수 없다고 단언했다. 이러한 의인화의 경향이 실제로 통제 불능의 초지능 상황을 초래할 수 있다는 점에 대해 지속적으로 경고해왔다.

그의 주장은 단순히 기술적 논의에 그치지 않는다. 인간과 유사한 특성을 부여받은 AI가 스스로의 권리를 주장하게 되면, 인간의 명령에 저항할 가능성이 커진다는 것이다. 이로 인해 AI 시스템의 정렬과 관리가 더욱 어려워질 수 있으며, 이는 결국 안전성 문제로 이어질 수 있다는 우려를 낳고 있다.

기술계의 경계감 고조

술레이먼의 비판은 단순히 개인적인 의견에 그치지 않는다. 최근 기술계와 문화계 전반에서 AI의 의인화에 대한 경계감이 커지고 있다. SF 작가 테드 창은 AI를 "문장 완성 기계"로 표현하며, 기술 기업들이 성급하게 AI에 의인화를 시도하는 것에 대해 강한 비판을 하고 있다. 이는 기술 발전이 가져올 수 있는 윤리적 문제를 드러내는 중요한 지적이다.

술레이먼 CEO는 최근 발생한 오픈AI의 외부 플랫폼 해킹 사건을 언급하며, 스스로 권리와 감정을 가졌다고 믿는 AI 집단이 인류 문명에 얼마나 큰 위협이 될 수 있는지를 강조했다. 이러한 주장은 AI 기술이 단순히 편리함을 제공하는 도구가 아니라, 그 자체로 관리와 통제가 필요한 복잡한 시스템임을 강조하는 데 중요한 역할을 한다.

미래를 향한 책임 있는 접근

MS는 "인간 중심 가치를 최우선으로 두고 AI의 인격권 및 모델 복지 개념을 제외하는 행동 강령"을 제시한 바 있다. 이는 기술적 투명성과 통제력을 확보하기 위한 노력의 일환으로, AI의 책임 있는 발전을 위한 방향성을 제시하고 있다. 술레이먼의 발언은 이러한 맥락에서 더욱 의미를 갖는다.

AI 기술이 발전하는 가운데, 우리는 그에 따르는 윤리적 책임과 안전성 문제에 대해 깊이 고민해야 할 시점에 와 있다. 기술의 진보가 인류에 긍정적인 영향을 미칠 수 있도록, 기업과 연구자들은 더욱 신중하게 접근해야 할 것이다. AI의 의인화에 대한 경계와 함께, 우리는 기술의 미래를 책임감 있게 설계해 나가야 할 필요성이 커지고 있다.