비드래프트, 추론 전용 NPU로 언어모델 사전학습 성공…GPU 의존도 낮춘다

AI 전문 기업 비드래프트가 최근 엔비디아의 GPU 없이도 추론 전용 NPU를 활용해 소형 언어모델의 사전학습에 성공했다는 소식을 전했습니다. 이 혁신적인 성과는 AI 모델 개발에 있어 비용 효율성과 운영 편리성을 크게 개선할 수 있는 가능성을 열어줍니다.

NPU의 새로운 활용 가능성

추론 전용 NPU(신경망 처리 장치)는 일반적으로 모델 학습에 필수적인 역전파 연산을 수행하는 데 어려움을 겪는 것으로 알려져 있었습니다. 이러한 이유로 그동안 NPU는 사전학습이나 미세조정 같은 과정에서 배제되는 경향이 있었습니다. 그러나 비드래프트는 이를 극복하고 NPU에서 역전파 연산을 수행함으로써 모델을 처음부터 끝까지 학습할 수 있는 방법을 찾아냈습니다. 공개된 모델인 ‘VKORE-46M-NPU’는 이러한 과정을 통해 개발된 것으로, 비드래프트는 이 기술이 세계 최초의 사례라고 주장하고 있습니다.

비드래프트는 이 모델의 학습을 2025년에 출시된 1세대 NPU에서 진행했으며, 구형 하드웨어에서도 충분히 학습이 가능하다는 점에서 차세대 NPU의 성능 향상에 대한 기대감을 높이고 있습니다. 특히, 동일 모델을 고성능 GPU로 학습했을 때와 손실 곡선 및 처리량이 동등한 수준으로 수렴했다는 점은 주목할 만합니다.

경제적 이점과 효율성

비드래프트의 이번 성과는 AI 가속기 확보에 드는 비용과 운영 부담을 줄이는 데 큰 도움이 될 것으로 전망됩니다. 최신 블랙웰급 GPU 서버는 높은 구매 비용과 긴 납품 기간, 그리고 막대한 전력 소비로 인해 기업들에게 큰 부담이 되고 있습니다. 반면, NPU는 상대적으로 저렴하고 전력 소모가 적어 사무실 환경에서도 쉽게 운영할 수 있는 장점이 있습니다.

김민식 비드래프트 대표는 “비용과 전력 부담이 낮은 NPU를 추론뿐 아니라 학습에도 활용할 수 있다면 기업은 고가의 GPU를 확보하기 위해 장기간 기다릴 필요가 없다”며, “이번 성과를 NPU 가속 기술인 VKORE로 발전시켜 하드웨어 효율의 한계를 넓혀가겠다”고 강조했습니다.

향후 전망과 기술 적용

비드래프트는 이번 연구 결과가 특정 모델에 국한되지 않으며, 다양한 범용 공개 모델에서도 NPU의 활용 가능성을 검토하고 있다고 밝혔습니다. 이들은 NPU 전용 소프트웨어 계층인 ‘VKORE’를 통해 추론 가속과 학습 기술을 통합하고 있으며, 이는 엔비디아의 CUDA 생태계와 유사한 접근을 취하고 있습니다. 이를 통해 기업들은 민감한 데이터를 외부로 유출하지 않고도 사무실 내에서 직접 모델을 개발하고 서비스할 수 있게 될 것입니다.

이러한 발전은 AI 기술의 민주화에 기여할 것으로 기대되며, 기업들이 더욱 혁신적이고 효율적인 AI 모델을 개발할 수 있는 기반이 될 것입니다. 비드래프트의 성과가 앞으로 어떤 방향으로 나아갈지, 그리고 AI 산업에 미칠 영향을 지켜보는 것이 흥미로운 시점입니다.