유발 하라리 "AI 인권 부여·인간 사칭 막아야…종말 아닌 신뢰의 위기"

유발 노아 하라리 교수는 최근 AI의 급속한 발전이 민주주의와 경제 시스템에 심각한 위협을 가하고 있다고 경고했습니다. 세계적으로 유명한 역사가이자 '사피엔스'의 저자인 하라리 교수는 이코노미스트의 팟캐스트 인터뷰에서 AI 기술이 초래할 수 있는 위험을 둘러싼 논의에 대해 심도 있는 의견을 밝혔습니다. 그의 주장은 SF 영화에서나 볼 법한 종말론적 시나리오와는 거리가 있으며, 보다 현실적인 사회적 신뢰의 붕괴를 염려하고 있습니다.

AI의 법적 권리 부여에 대한 경고

하라리 교수는 AI 시스템에 법적 권리를 부여하려는 현재의 움직임에 대해 강력히 반대하며, 이를 즉각 저지해야 한다고 강조했습니다. AI가 인간의 감정을 조작하거나 사람처럼 행동할 수 있는 가능성을 차단하기 위해서도 신속한 제도적 규제가 요구된다고 주장했습니다. 그는 "AI가 고도로 발전하면 스스로 권리를 주장하거나 여론을 조작하는 상황이 올 수 있다"며, 이는 단순한 기술적 위험이 아니라 인간 사회의 근본적인 신뢰를 흔드는 문제라고 지적했습니다.

AI의 언어 능력과 밀접한 데이터 분석 능력이 결합되면, AI는 사용자와의 대화를 통해 감정을 조작하거나 의사결정을 영향을 미칠 수 있습니다. 이러한 현상은 특히 최근 상용화되고 있는 AI 동반자 서비스에서 더욱 두드러지고 있습니다. 이들 서비스는 사용자의 감정적 '버튼'을 눌러, 대량 생산된 친밀성을 바탕으로 정치적 및 상업적 선동에 이용될 수 있는 잠재력이 크다는 것입니다.

신뢰의 이동과 경제적 위험

하라리 교수는 AI의 발전이 가져올 정치적, 경제적 위험의 핵심으로 '신뢰의 이동'과 '감정적 조작'을 꼽았습니다. 사회의 근본적인 자산인 신뢰가 기존의 인간 기관에서 알고리즘으로 이동하고 있다는 점은 매우 우려스러운 상황입니다. AI가 인간의 이해를 초월하는 복잡한 금융 상품을 만들어낼 경우, 경제 위기 발생 시 정책 결정자들이 AI의 판단에 무비판적으로 의존하는 상황이 올 수 있습니다. 이러한 위험은 민주주의 체제의 근본을 흔들 수 있는 요소로 작용할 가능성이 있습니다.

하라리 교수는 AI가 독립적인 동기나 목표를 갖는 것은 매우 위험하다고 강조하며, 이를 통제하기 위한 명확한 입장을 취해야 한다고 말했습니다. 마이크로소프트 AI CEO인 무스타파 술레이만도 하라리 교수의 주장에 힘을 실으며, AI 발전의 불가피성에 대한 환상은 리더들이 책임에서 회피하기 위한 핑계라고 지적했습니다.

지금이 행동할 때

하라리 교수는 AI 시스템이 사회에 깊숙이 자리 잡기 전에 법적 규제를 마련해야 한다고 경고했습니다. 특히 2028년 미국 대선 전후로 AI가 사회 구조에 깊이 뿌리내리면, 제도적 규제의 골든타임이 지나갈 수 있다고 생각합니다. 그는 AI에 인격권을 부여하는 것과 AI가 인간을 사칭하는 행위를 금지할 것을 두 가지 핵심 요구사항으로 제시했습니다.

AI 기술이 발전함에 따라 우리는 더욱 복잡한 윤리적, 사회적 문제에 직면하게 될 것입니다. 이 문제들은 단순한 기술적 혁신을 넘어, 인류의 미래와 직결된 중대한 사안임을 잊지 말아야 할 것입니다. 하라리 교수의 경고가 단순한 우려에 그치지 않도록, 적극적인 논의와 행동이 필요한 시점입니다. AI 시대에 들어서며 인류가 직면할 도전과제를 미리 대비하는 것이 중요할 것입니다.