세일즈포스-엔비디아, CRM 전용 추론 모델 '코아' 공개..."빅테크 의존 낮춘다"

세일즈포스가 엔비디아와 협력하여 CRM(고객 관계 관리) 데이터와 기업 업무에 특화된 AI 추론 모델인 ‘코아(Koa)’를 공개했습니다. 이 모델은 기업들이 외부 AI 모델에 대한 의존도를 줄이고, CRM 관련 업무를 더욱 효율적으로 처리할 수 있도록 지원할 것으로 기대됩니다. 이번 발표는 세일즈포스의 연례 행사인 드림포스에서 이루어졌으며, 기술 업계의 주목을 받고 있습니다.

AI 추론의 새로운 패러다임, ‘코아’

코아는 엔비디아의 오픈웨이트 모델인 ‘네모트론(Nemotron)’을 기반으로 만들어진 세일즈포스의 첫 번째 기업용 AI 추론 모델입니다. 세일즈포스는 27년 동안 쌓아온 CRM 전문성을 바탕으로 이 모델을 개발했으며, 영업 기회 발굴부터 고객 서비스 케이스 처리에 이르는 복잡한 다단계 업무를 수행할 수 있도록 설계되었습니다. 특히 이 모델은 제조, 금융 서비스, 의료, 여행 등 14개 산업에서 실제 기업의 업무 방식을 모사한 합성 데이터를 활용해 학습했습니다.

세일즈포스는 고객 데이터를 직접 사용하지 않고, 고객지원 담당자와 영업 담당자 등의 페르소나를 설정해 고객 문의나 거래 성사와 같은 상황을 모델에 구현했습니다. 이를 통해 고객 정보 유출의 위험을 최소화하고, 기업 업무에 필요한 추론 능력을 강화했습니다.

외부 의존도를 줄이는 전략

세일즈포스가 ‘코아’를 발표한 배경에는 외부 AI 모델에 대한 의존도를 줄이려는 전략이 자리잡고 있습니다. 과거 세일즈포스의 ‘에이전트포스(Agentforce)’ 플랫폼은 클로드나 챗GPT와 같은 외부 AI 모델에 요청을 전달하여 복잡한 업무를 처리해야 했습니다. 그러나 이제는 코아를 통해 영업 기회 업데이트, 고객 사례 배정, 후속 연락 일정 조정 등 CRM 특화 업무를 직접 처리할 수 있습니다.

이 모델은 특정 기업의 요구에 맞춰 설계되어 있어 일반적인 프론티어 모델과는 다른 경쟁력을 지니고 있습니다. 특히 AI 작업에 필요한 토큰 수를 줄여 비용을 절감할 수 있으며, 기업의 요구에 따라 모델을 자동으로 선택하고 배정하는 AI 게이트웨이와의 연계도 가능합니다.

보안과 데이터 통제의 중요성

이번 모델의 특장점 중 하나는 보안과 데이터 통 제입니다. 세일즈포스는 네모트론의 오픈웨이트 특성을 활용하여 모델 가중치를 직접 통제하고, 코아는 세일즈포스의 자체 인프라에서 운영됩니다. 이로 인해 학습과 추론 과정에서 고객 데이터가 외부로 유출되는 것을 방지할 수 있습니다. 코아는 세일즈포스의 에이전트포스 플랫폼에서 선택 가능한 모델 중 하나로 제공되며, 고객사는 AI 모델 카탈로그에서 관리형 대형언어모델(LLM)로 쉽게 선택할 수 있습니다.

세일즈포스는 이미 사내에서 이 모델을 활용하여 직원들이 슬랙을 통해 정보를 찾고 일상적인 업무를 처리하는 ‘임플로이 에이전트(Employee Agent)’에도 적용하고 있습니다. 현재 1-800어카운턴트, 백스터 신용조합, 엔진, 포뮬러 1, 시카고대학교 의과대학 등과의 고객 파일럿을 진행 중입니다.

이번 발표는 세일즈포스가 외부 AI 모델에 대한 의존을 줄이고, 자체적으로 고객 데이터를 안전하게 관리하며 기업의 CRM 업무를 더욱 효율적으로 수행할 수 있는 기반을 마련했다는 점에서 큰 의미가 있습니다. 앞으로 코아의 발전과 함께 세일즈포스는 CRM 분야에서 더욱 경쟁력 있는 솔루션을 제공할 것으로 기대됩니다.