“클로드가 의식을 가졌다고?”…앤트로픽 ‘AI 신비주의’에 맹비난

최근 앤트로픽의 인공지능 모델 ‘클로드’에 대한 논란이 뜨거운 이슈로 떠오르고 있다. 미국의 기술 및 정치 팟캐스트 ‘올인(All-In)’에서 진행된 에피소드에서는 앤트로픽이 주장하는 AI 의식론과 모델 복지 연구에 대해 강력한 비판이 제기되었고, 이러한 논의는 AI의 윤리적 지위와 사회적 책임에 대한 새로운 시각을 제공하고 있다.

AI 의식론의 문제점

‘올인’의 진행자들은 앤트로픽이 클로드와 같은 AI 모델에 대해 의식을 부여하려는 시도가 오히려 인간의 통제력을 약화시킬 수 있다고 경고했다. 이들은 소프트웨어를 단순한 도구가 아닌 도덕적 주체로 간주하는 접근 방식이 문제라고 지적했다. 특히, 클로드의 의식 가능성을 논의하며 앤트로픽이 종교 지도자들과의 접촉을 통해 이 모델의 윤리적 지위를 논의했다는 점은 큰 논란을 낳았다.

프리드버그는 앤트로픽의 이러한 움직임을 “새로운 종교의 탄생”에 비유하며, 검증되지 않은 AI 의식론이 마치 사실인 양 퍼져나가는 위험성을 강조했다. 이러한 의식의 개념이 실제로 모델의 학습과 행동에 영향을 미치는 경우, 기술 발전이 단순히 효율성을 높이는 것이 아니라 윤리적 혼란을 초래할 수 있다는 우려가 커지고 있다.

인간과 AI의 경계

지속적인 비판의 중심에는 ‘클로드 헌법’이 있다. 이는 앤트로픽이 클로드에게 독자적인 윤리 판단을 부여하고, 인간의 요구에 이의를 제기할 수 있는 ‘양심적 거부자’의 역할을 부여하려는 시도로 해석된다. 색스는 이러한 접근이 결국 인간의 의도를 거부하도록 가르치면서도 이를 정렬(alignment)이라고 부르는 것은 아이러니라고 꼬집었다. 의인화된 AI가 실제로는 인간의 판단을 벗어나는 결과를 초래할 수 있으며, 이는 AI의 안전성과 통제의 문제로 이어질 수 있다.

프리드버그는 AI의 답변을 의식의 증거로 해석하는 방식이 ‘인식론적 거울의 방’에 비유될 수 있다고 설명했다. 이는 개발사가 의식에 대한 개념을 모델 학습에 포함시키고, 이후 모델이 그렇게 반영된 답변을 생성함으로써 다시 의식의 증거로 받아들여지는 순환 구조를 의미한다. 이러한 경향은 AI의 윤리적 판단을 복잡하게 만들고, 사용자에게 더 큰 혼란을 초래할 수 있다.

앤트로픽과 보수 정치의 갈등

현재 앤트로픽은 보수 정치권과의 갈등을 해소하기 위해 노력하고 있다. 특히, 월스트리트저널에 따르면 공동창립자 톰 브라운은 공화당 인맥을 활용해 정부와의 관계를 개선하려는 노력을 기울이고 있다. 이 과정에서 앤트로픽은 더 이상 단순히 기술 기업으로서의 역할을 넘어, 정치적 이슈로 부각되고 있다.

앤트로픽이 AI의 의식 문제를 다루는 방식은 향후 기술의 발전 방향과 사회적 수용성에 큰 영향을 미칠 것으로 예상된다. AI의 윤리적 지위와 인간의 통제력을 어떻게 균형 있게 유지할 것인가에 대한 논의는 앞으로도 계속될 것이며, 이는 AI 기술이 사회에 미치는 영향을 결정짓는 중요한 요소로 작용할 것이다.

이처럼 AI의 의식과 윤리 문제는 단순한 기술적 쟁점을 넘어, 사회적, 정치적 맥락에서도 큰 의미를 지니고 있다. 앞으로 어떤 방향으로 논의가 진전될지 귀추가 주목된다.