비드래프트, NPU 가속 소프트웨어 ‘VKORE’ 개발… 추론·학습 동시 구현

비드래프트, NPU 가속 소프트웨어 ‘VKORE’로 AI 혁신의 새로운 장을 열다

AI 기술의 발전은 속도를 더하고 있으며, 그 중에서도 비드래프트가 최근 공개한 가속 소프트웨어 ‘VKORE’는 신경망처리장치(NPU)의 한계를 극복하는 중요한 이정표가 되고 있다. VKORE는 NPU 환경에서 추론 성능을 극대화할 뿐만 아니라, 기존에는 불가능하다고 여겨졌던 학습 기능을 동시에 구현하는 소프트웨어 계층으로, 업계의 큰 주목을 받고 있다.

NPU의 새로운 가능성

VKORE는 엔비디아 GPU의 CUDA와 유사한 방식으로 NPU 환경에서 연산 효율을 높이는 구조를 가지고 있다. 기존의 NPU는 주로 추론을 중심으로 활용되어 왔지만, VKORE를 통해 그 한계를 넘어 학습까지 가능하게 되었다. 실제로 비드래프트의 테스트에 따르면, 트랜스포머 모델의 LoRA 학습을 수행할 때 엔비디아 B200 GPU에서는 1시간이 걸리는 작업이 있었으나, 기존 CPU 환경에서는 약 320시간이 소요되었다. 흥미로운 점은 NPU를 기본 방식으로 운영했을 때는 오히려 더 긴 시간이 걸렸다는 것이다. 하지만 VKORE를 적용한 환경에서는 동일한 NPU 기준으로 1인 응답 속도가 3.8배 증가하고, 서버 동시 처리량이 4.1배 향상되었다. 이로써 비드래프트는 NPU의 활용 범위를 크게 확대하는 데 성공했다.

AI 판별의 새로운 기준

비드래프트의 자체 판정 엔진 ‘다윈(Darwin)-27B-ZTC-v5’는 특별한 성과를 기록했다. 글로벌 벤치마크 ‘S1MB’에서 152개 모델 중 종합 1위를 차지하며, 퍼플렉시티와 클라우드플레어, 메타를 제치고 새로운 기준을 세웠다. 이러한 성과는 단순히 성능 향상에 그치지 않고, NPU 환경에서의 전력 효율성까지 고려한 결과다. 다윈 ZTC는 생성 토큰을 출력하지 않고도 한 번의 순전파로 판정을 완료해 에너지 소모를 최소화한다. 이로 인해 하루 수백만 회 사용되는 판정 기술이 NPU에서 더욱 효율적으로 운영될 수 있게 되었다.

더욱이 비드래프트는 재귀적 자가개선(RSI) 기술을 통해 AI 모델이 스스로 성능을 개선할 수 있는 기반을 마련하고 있다. 특히, 이 기술은 수학 분야에서의 경진대회에서 100% 만점을 기록하며 그 가능성을 입증했다. 비드래프트는 이러한 기술들을 활용해 데이터센터의 운영 효율을 높이고, GPU와 NPU를 함께 사용하는 환경에서도 최적의 성능을 발휘할 수 있도록 할 계획이다.

미래를 향한 비전

비드래프트의 VKORE는 단순한 성능 향상을 넘어 AI의 활용 방식을 근본적으로 변화시킬 것으로 기대된다. 김민식 비드래프트 대표는 “NPU는 추론만 한다는 고정관념을 소프트웨어로 극복했다”며, “국산 NPU 위에서 AI 데이터센터를 구축하여 GPU에 의존하지 않고 스스로 발전하는 시스템을 만들어 나가겠다”고 포부를 밝혔다.

이처럼 비드래프트의 VKORE는 AI 기술 발전에 새로운 전환점을 마련하며, 향후 데이터센터의 운영 방식과 AI 활용의 범위를 넓히는 데 기여할 것으로 보인다. 앞으로의 연구 결과가 기대되는 가운데, 비드래프트의 성과가 AI 산업 전반에 미칠 긍정적인 영향도 주목할 만하다.