비드래프트, LLM 추론 가속 엔진 ‘VKAE’ 리더보드·통합 컨테이너 공개

AI 전문 기업 비드래프트가 자사의 대형 언어 모델(LLM) 추론 가속 엔진 ‘VKAE(VIDRAFT Kernel Acceleration Engine)’의 성능 리더보드와 통합 도커(Docker) 컨테이너를 공개했다. 이번 발표는 비드래프트가 AI 추론의 효율성을 극대화하기 위한 일환으로 진행된 것으로, 사용자가 보다 쉽게 자신의 GPU 환경에서 VKAE의 성능을 검증할 수 있도록 돕는다.

VKAE의 혁신적인 성능

VKAE는 기존의 표준 서빙 방식 대비 최대 23.4배 높은 데이터 처리량을 자랑하는 커널 수준의 추론 가속 엔진이다. 즉, 동일한 GPU 환경에서도 훨씬 빠른 속도로 데이터 처리가 가능해진다. 이 엔진의 가장 큰 장점은 응답 속도와 처리량을 향상시키면서도, 답변의 질을 유지하는 데 있다. 비드래프트는 사용자가 복잡한 개발 환경을 구축하지 않고도 공개된 도커 컨테이너를 통해 직접 성능을 재현하고 검증할 수 있도록 했다. 특히, 오픈AI 호환 API를 지원하여 기존 서비스나 애플리케이션에 즉시 통합할 수 있는 점도 큰 장점이다.

비드래프트는 VKAE의 기술적 특징을 네 가지로 정리했다. 첫째, 성능 검증의 투명성을 강조하고, 둘째, 토큰당 운영 비용을 대폭 절감하며, 셋째, 속도 향상에도 불구하고 품질이 유지되는 안정성을 제공하고, 마지막으로, 기존 시스템에 신속하게 통합할 수 있는 점이다. 현재는 엔비디아의 블랙웰(B200) 및 호퍼(H100, H200) 계열 GPU를 지원하며, 앞으로도 다양한 하드웨어 라인업을 지속적으로 확대해 나갈 예정이다.

AI 시장의 새로운 패러다임

비드래프트의 이번 발표는 단순한 기술 공개에 그치지 않는다. 회사는 AI의 메타인지 능력을 측정하기 위한 FINAL 벤치, 환각 현상을 줄이는 런타임 미들웨어 MARL, 그리고 자체 모델인 다윈(Darwin)과 키메라(Chimera), 에테르(Aether) 등 다양한 모델을 통해 AI 추론의 전반적인 최적화 전략을 추진해왔다. 이러한 성과들은 비드래프트가 AI 모델 개발에서 신뢰성 검증, 서빙 최적화에 이르는 전 과정에 대한 풀스택 역량을 시장에 입증하고 있다는 점에서 의미가 크다.

김민식 비드래프트 대표는 “제3자가 직접 재현할 수 없는 속도 경쟁은 시장에서 아무 의미가 없다”며 “리더보드와 통합 컨테이너를 통해 사용자가 각자의 하드웨어에서 성능을 검증할 수 있도록 한 것이 핵심”이라고 강조했다. 이는 비드래프트가 고객과의 신뢰 관계를 더욱 강화하고, 시장에서의 경쟁력을 높이기 위한 전략으로 풀이된다.

앞으로의 비전

비드래프트는 2024년 서울 AI허브를 시작으로 2030년까지 AGI(Artificial General Intelligence) 달성을 목표로 삼고 있다. 이를 위해 한국어 특화 LLM과 과학적 추론 모델, 그리고 인프라 최적화 기술을 바탕으로 글로벌 AI 시장으로의 진출을 본격적으로 추진하고 있다. 이러한 비전은 비드래프트가 앞으로도 AI 분야에서 중요한 역할을 할 수 있는 가능성을 보여준다. 신기술과 혁신을 지속적으로 선보일 비드래프트의 행보가 기대되는 이유다.