"제브보다 9배 빠르다"...스탠퍼드·엔비디아, 'CLM-8B'로 맞불

최근 실리콘밸리에서 뜨거운 관심을 받고 있는 타입세이프 AI의 ‘제브(Jev)’에 맞서, 스탠퍼드대학교와 엔비디아의 연구팀이 새로운 오픈소스 모델 'CLM-8B'를 공개하며 도전장을 던졌습니다. CLM-8B는 의사결정에 특화된 AI 모델로, 제브보다 아홉 배 빠른 처리 속도를 자랑하며, 향후 AI 에이전트의 발전에 큰 영향을 미칠 것으로 기대됩니다.

CLM-8B의 빠른 처리 속도

스탠퍼드대학교와 엔비디아 연구진은 CLM-8B를 통해 AI 에이전트가 수행해야 하는 도구 선택과 결과 검증의 과정을 더욱 효율적으로 처리할 수 있는 방법을 제시했습니다. 이 모델은 대조 학습(Contrastive Learning) 방식을 활용하여 현재 상태와 가능한 선택지를 같은 공간에 배치함으로써, 가장 적합한 행동을 신속하게 선택할 수 있도록 설계되었습니다. 실제로 구글의 '공룡 점프 게임(T-Rex Game)'을 활용한 테스트에서 CLM-8B는 평균 16밀리초(ms)의 지연시간을 기록, 제브의 150ms보다 9배 빠른 성능을 보여주었습니다.

이런 구조 덕분에 CLM-8B는 반복적인 도구 선택과 같은 특정 작업에서 특히 유용합니다. 예를 들어, 기업의 IT 에이전트가 50개의 승인된 작업 중 하나를 선택해야 할 때, 매번 모든 행동을 프롬프트로 처리하는 대신, 미리 계산해둔 행동 표현과 비교하여 최적의 선택을 할 수 있습니다. 이처럼 CLM-8B는 실시간으로 빠르고 정확한 의사결정을 가능하게 합니다.

기술적 특징과 활용 가능성

CLM-8B는 '큐원3-8B'를 백본으로 하여 특정 작업에 맞게 조정할 수 있는 구조를 갖추고 있습니다. 연구진은 6000만 개의 질의·응답 데이터와 3000만 개의 합성 하드 네거티브 데이터를 활용하여 모델을 단계적으로 학습했습니다. 이를 통해 CLM-8B는 다양한 상황에서의 행동을 미리 계산하여 누적된 경험치를 활용할 수 있습니다.

다만, CLM-8B는 정확도 면에서 제브에 미치지 못하는 한계를 가지고 있습니다. BFCL v4 도구 호출 벤치마크 결과에 따르면, CLM-8B는 95.2%의 정확도를 기록했지만, 제브는 99.2%의 정확도를 보였습니다. 즉, CLM-8B는 속도에서는 압도적인 성과를 보였으나, 정확성이라는 또 다른 중요한 요소에서는 개선이 필요함을 보여줍니다.

AI의 미래와 시장 전망

이번 CLM-8B의 출현으로 의사결정 특화 AI 시장에서의 경쟁이 한층 더 치열해질 것으로 예상됩니다. 타입세이프 AI의 제브가 독점적인 기술을 보유하고 있는 가운데, CLM-8B는 오픈소스 모델로 공개되어 더 많은 개발자와 기업들이 그 가능성을 탐색할 수 있는 기회를 제공합니다. 연구진은 이 모델 외에도 멀티모달 CLM-35B-A3B를 개발 중이며, 10월 초에 공개할 계획입니다.

향후 AI 기술의 발전은 이러한 경쟁을 통해 더욱 가속화될 것으로 보이며, 의사결정에 특화된 모델들이 다양한 산업에서 실질적인 변화를 이끌어낼 것으로 기대됩니다. 이는 단순히 속도 경쟁만이 아닌, 각 모델의 특성과 활용 가능성을 조명하는 중요한 계기가 될 것입니다.