"모델 다변화는 성공, 거버넌스는 낙제점"…기업 AI '통제 격차' 본격화

최근 글로벌 기업들이 인공지능(AI) 모델에 대한 의존도를 줄이기 위해 멀티 모델 전략을 채택하고 있다는 연구 결과가 발표됐다. 앤트로픽의 '클로드 페이블 5' 서비스 중단 사건을 기점으로, 기업들이 특정 모델 의존을 탈피하고자 하는 경향이 더욱 뚜렷해지고 있다. 하지만 이런 변화 속에서 여전히 내부 거버넌스와 관리 시스템의 취약성이 드러나고 있어 주목받고 있다.

멀티 모델 전략의 확산

벤처비트의 최근 리서치에 따르면, 조사에 응답한 기업의 66%가 이미 특정 AI 모델에 의존하지 않고 다양한 모델을 활용하는 방향으로 나아가고 있다. 특히, 기업들은 폐쇄형 프론티어 모델과 오픈소스 모델을 혼합한 하이브리드 전략을 통해 유연성을 높이고 있는 것으로 나타났다. 앤트로픽의 서비스 중단이 많은 기업들에게 타격을 주었지만, 다행히도 이들 중 상당수는 미리 준비한 전략 덕분에 피해를 최소화할 수 있었다.

리버티 뮤추얼의 브라이언 크레이그 아키텍처 총괄 디렉터는 “우리는 특정 벤더에 종속되지 않는 AI 백본을 구축해 두었기 때문에, 서비스 중단 사태 속에서도 신속하게 다른 모델로 전환할 수 있었다”고 설명했다. 이는 AI 모델의 선택 폭을 넓히고, 비용 문제로부터도 자유로워지려는 기업들의 의지를 보여준다. 실제로 응답자 중 30%는 향후 12개월 안에 마이크로소프트를, 21%는 오픈AI를 퇴출할 가능성이 있다고 답변했다.

AI 관리 시스템의 부족

그러나 이러한 멀티 모델 전략의 성공적인 도입에도 불구하고, 기업 내부의 AI 관리 시스템은 여전히 취약한 상황이다. 조사에 따르면, AI 시스템의 오류를 자동으로 감지할 수 있는 모니터링 시스템을 갖춘 기업은 전체의 10%에 불과하다. 많은 기업이 여전히 수동 검토 방식에 의존하거나, 사용자의 보고를 통해 문제를 인지하고 있는 실정이다. 이는 특히 자율 에이전트의 통제 실패로 인한 재정적 손실을 초래할 수 있는 위험 요소로 작용하고 있다.

응답 기업의 79%가 자율 에이전트로 인한 손실을 경험했으며, 그 중 49%는 부서별로 무단으로 AI를 사용하는 '섀도우 AI' 때문에 피해를 보았다. 이러한 상황은 기업들이 AI 활용의 효율성에 집중하고 있지만, 내부 통제와 거버넌스의 부재로 인해 오히려 더 큰 리스크를 안고 있다는 점을 시사한다.

향후 전망과 기업의 대응

결과적으로, 기업들은 외부 공급업체의 의존성을 줄이는 데 성공하고 있지만, 내부 시스템의 구조적 문제는 여전히 해결되지 않고 있다. 연구에 따르면, 58%의 기업이 기존 문제를 해결하기보다는 새로운 AI 프로젝트를 공격적으로 확장하고 있으며, 85%는 부서마다 서로 다른 AI 솔루션을 운영하고 있어 혼선이 발생하고 있다.

전문가들은 이러한 상황에서 AI 책임자를 지정하고 중앙에서 관리하는 시스템의 구축이 필요하다고 강조한다. AI의 발전과 함께 요구되는 거버넌스 체계가 마련되지 않는 한, 기업은 지속적으로 리스크에 노출될 수밖에 없다. 앞으로 기업들이 멀티 모델 전략을 더욱 발전시키기 위해서는 내부 관리 체계의 강화가 필수적일 것으로 보인다. 이는 단순히 비용 문제를 해결하는 것을 넘어, AI의 효과적인 운영과 혁신을 위해 반드시 해결해야 할 과제가 될 것이다.