가트너 "올해 AI 추론 지출 33조원 돌파 전망...최적화 투자도 증가"

글로벌 인공지능(AI) 인프라 시장은 최근 급격한 변화를 겪고 있습니다. 과거에는 모델 학습이 주된 초점이었으나, 이제는 실질적인 서비스 구현과 데이터 처리의 핵심인 '추론'으로의 전환이 가속화되고 있습니다. 이러한 변화는 가트너의 최근 보고서에서 뚜렷하게 드러났습니다. 특히, 올해 전 세계 AI 추론 분야에 대한 지출이 33조 원을 넘을 것으로 예상되고 있으며, 이는 모델 학습 관련 지출을 크게 앞지르는 수치입니다.

AI 추론의 부상

가트너가 발표한 ‘2026 전 세계 AI 최적화 IaaS 전망 분석’에 따르면, 올해 AI 추론에 대한 지출은 약 233억 달러(한화 약 33조 원)에 이를 전망입니다. 이는 AI 모델 학습에 대한 지출, 약 190억 달러(27조 원)를 초과하는 수치입니다. 이러한 변화의 핵심 원인은 에이전틱 AI의 급속한 확산입니다. 에이전틱 AI는 단순한 질의응답을 넘어 자율적인 다단계 연산을 수행할 수 있는 서비스로, 실시간 데이터 처리와 추론을 위한 컴퓨팅 자원의 소비가 증가하고 있습니다.

일례로, 자율주행차나 스마트 홈 기기와 같은 고도화된 AI 시스템들은 실시간으로 데이터를 처리하고 즉각적인 결정을 내려야 합니다. 이러한 이유로 AI 추론에 대한 지출이 폭발적으로 증가하고 있는 것입니다. 앞으로도 에이전틱 AI가 더욱 보편화됨에 따라, 추론을 위한 인프라 수요는 계속해서 증가할 것으로 보입니다.

클라우드 소비의 가속화

AI 기술의 발전에 따라 기업들은 단순한 모델 개발 단계를 넘어, 보다 정교한 미세 조정 및 도메인 특화 모델을 운영 시스템에 통합하는 단계에 이르고 있습니다. 이는 상용 배포로 이어지며, 24시간 실시간 처리를 요구합니다. 이러한 변화는 클라우드 소비를 가속화하고 AI 최적화 인프라에 대한 수요를 더욱 견고하게 만드는 구조로 발전하고 있습니다.

가트너의 하딥 싱 수석 애널리스트는 "대규모 언어 모델(LLM) 학습을 위한 인프라 수요는 지속적으로 이어지고 있으며, 기업 애플리케이션과 업무 프로세스 전반에 AI가 실질적으로 상용화되면서 관련 시장 전체의 성장을 이끌고 있다"고 설명했습니다. 이러한 흐름은 기업들이 AI를 통해 혁신을 추구하고, 경쟁력을 강화하는 데 기여할 것으로 기대됩니다.

향후 전망

AI 추론 지출의 급증은 단순히 기술적 발전을 넘어 비즈니스 모델의 변화를 의미합니다. 기업들은 AI 기술을 통해 데이터 기반의 의사결정을 강화하고 있으며, 이는 곧 생산성과 효율성을 높이는 결과로 이어질 것입니다. 앞으로 AI 추론이 기업의 핵심 전략으로 자리 잡을 것으로 보이며, 이러한 트렌드는 글로벌 AI 인프라 시장에 계속해서 긍정적인 영향을 미칠 것입니다.

결론적으로, AI 추론의 부상과 클라우드 소비의 가속화는 기업들이 경쟁력을 강화할 수 있는 중요한 요소로 자리매김하고 있습니다. 이제 AI는 단순한 기술이 아니라 비즈니스 혁신의 핵심 동력이 되고 있으며, 앞으로의 발전이 기대됩니다.