나델라의 경고 “AI 기업에 노하우 넘겨주는 ‘역정보의 역설’ 막아야”

사티아 나델라 마이크로소프트 CEO가 최근 AI 업계의 방향성을 강하게 비판하며 기업들에게 AI 데이터 주권의 확보를 촉구했다. 특히 오픈AI와 앤트로픽과 같은 폐쇄형 AI 모델 업체들이 기업의 고유한 지식과 노하우를 축적하는 '역정보의 역설'을 조명하며, 기업들이 이를 방지하기 위한 전략을 세워야 한다고 경고했다. 나델라 CEO는 이러한 문제를 해결하기 위한 다섯 가지 원칙을 제시하며 기업들이 AI를 활용하는 과정에서 지적 자산을 보호해야 한다고 강조했다.

역정보의 역설, AI 시대의 역설적 상황

나델라 CEO는 블로그를 통해 케네스 애로의 '정보의 역설'을 AI 시대에 맞게 재조명했다. 기존 정보 시장에서는 판매자가 자신의 지식을 공개해야 하는 위험이 존재했지만, 현재의 AI 환경에서는 오히려 사용자가 독점적인 지식과 업무 과정을 AI 모델 제공업체에 제공해야 하는 상황이 발생하고 있다. 이는 기업들이 AI를 활용하기 위해 필요한 데이터를 제공하면서도, 그 과정에서 소중한 경쟁력을 잃어버리는 아이러니한 상황을 초래한다.

그는 "AI를 사용함으로써 기업은 두 번의 비용을 지불하게 된다"며, "첫 번째는 AI 사용료, 두 번째는 기업의 고유한 지식을 제공해야 하는 비용"이라고 지적했다. 이러한 상황에서 기업들은 자신들의 업무 프로세스와 피드백이 AI 모델 개발사의 학습 데이터로 사용되기 때문에, 경쟁력이 더 많은 데이터를 가진 AI 모델 업체로 넘어갈 위험이 있다는 경고를 잊지 말아야 한다.

기업의 지적 자산 보호를 위한 다섯 가지 원칙

나델라 CEO는 기업이 AI 시대에서 지적 자산을 보호하기 위해 반드시 따라야 할 다섯 가지 원칙을 제시했다. 첫째, 통제(Control)다. 기업은 자체적으로 평가 체계와 프롬프트, 피드백, 업무 맥락 등을 관리해야 한다. 이는 기업의 학습 자산을 보호하는 기본적인 권한을 의미한다.

둘째는 역량(Capability)이다. 기업은 외부 모델에 의존하지 않고 자체적으로 AI 모델을 학습하고 조정할 수 있는 독립적인 환경을 구축해야 한다. 셋째는 선택(Choice)으로, 특정 모델에 종속되지 않도록 다양한 AI 모델을 자유롭게 교체할 수 있는 시스템을 마련해야 한다.

넷째는 비용(Cost)이다. 효과적인 오케스트레이션 계층을 통해 기업은 적절한 모델을 선택하여 품질과 비용을 최적화할 수 있어야 한다. 마지막으로 복리 효과(Compound)는 앞서 언급한 원칙들이 결합하여 기업의 지속적인 학습 루프를 형성하고, AI 투자에 따른 기업의 경쟁력을 강화하는 구조를 만들어낸다는 점이다.

AI 시대의 미래, 기업의 선택이 중요하다

나델라 CEO는 AI 모델 개발사들이 고객의 데이터를 학습하면서도 정작 기업의 증류를 제한하는 것은 위선적이라고 지적하며, 이러한 불균형이 지속된다면 결국 경제적 가치가 특정 기업에 집중될 것이라고 경고했다. 기업들은 이에 대한 경각심을 가져야 하며, 폐쇄형 AI 모델 대신 오픈소스 AI 모델이나 자체 데이터센터를 통한 솔루션을 모색하는 경향이 강화되고 있다.

AI 산업이 발전함에 따라 기업들이 데이터 주권을 확보하는 것은 필수적이다. 나델라 CEO의 발언은 단순한 경고를 넘어 기업들이 올바른 AI 전략을 수립하는 데 필요한 방향성을 제시하고 있다. AI 시대의 경쟁에서 살아남기 위해서는 기업 스스로의 지적 자산을 보호하고 관리하는 것이 무엇보다 중요하다는 점을 인식해야 할 것이다.