리벨리온, 국산 NPU로 SKT 독자 모델 'A.X K1' 구동 성공

리벨리온, SKT의 AI 모델을 국산 NPU로 성공적으로 구동

최근 리벨리온(대표 박성현)은 SK텔레콤의 독자적인 AI 파운데이션 모델인 '에이닷엑스 케이원(A.X K1)'을 자사의 신경망처리장치(NPU) 서버에서 성공적으로 구동했다고 발표했다. 이번 성과는 국산 기술의 가능성을 다시 한번 증명하는 사례로, 인공지능(AI) 분야에서의 경쟁력을 높이는 중요한 이정표가 될 것으로 기대된다.

A.X K1: 대형 언어 모델의 진화

리벨리온이 성공적으로 구동한 A.X K1은 무려 5190억 개의 매개변수를 가진 대형 언어 모델(LLM)로, 이는 최근 AI 기술의 발전 속도를 반영하는 수치다. A.X K1은 '전문가 혼합(MoE)' 구조로 설계되어 있어, 예측 과정에서 330억 개의 매개변수만을 활성화해 효율성을 극대화한다. 이처럼 대규모 언어 모델은 다양한 데이터와 패턴을 학습하여 자연어 처리에 있어서 놀라운 성능을 발휘할 수 있다.

리벨리온은 A.X K1을 효과적으로 구동하기 위해 소프트웨어 최적화 작업을 진행했으며, NPU와 반도체 칩을 통해 병렬 처리 기술을 구현함으로써 GPU 서버와 유사한 성능을 내는 인프라를 확보했다. 이러한 기술적 진보는 AI 모델의 실시간 반응성을 높이며, 사용자 경험을 개선하는 데 크게 기여할 것으로 보인다.

혁신적인 에이전트 서비스와 실시간 처리를 위한 기술력

리벨리온은 A.X K1의 성과를 바탕으로 다양한 사용자 요청을 동시에 처리할 수 있는 에이전트 서비스 데모도 선보였다. 예를 들어, 지도 기반의 서비스에서 "주말에 이용 가능한 약국"과 같은 질문을 여러 사용자에게 동시에 던져도 병목 없이 신속하게 결과를 도출할 수 있었다. 이는 리벨리온의 기술력이 실제 활용 가능성을 충분히 보여주는 사례로, 향후 다양한 애플리케이션에 적용될 수 있는 잠재력을 지니고 있다.

또한 리벨리온은 과학기술정보통신부의 독자 파운데이션 모델 사업에 SKT 컨소시엄으로 참여하고 있으며, SKT의 '에이닷 전화 통화 요약' 등의 대규모 트래픽을 소화하는 서비스도 운영하고 있다. 이러한 협력은 정부 주도 '3대 메가프로젝트'와 '모두의 AI'와 같은 실생활 AI 서비스의 상용화로 이어질 전망이다.

한국형 AI 인프라의 미래

리벨리온의 박성현 대표는 이번 실증 결과를 통해 국산 초거대 모델과 NPU의 인프라 효율성을 입증했다고 강조하며, "누구나 일상에서 AI를 누릴 수 있는 한국형 AI 인프라를 만들기 위해 지속적으로 노력할 것"이라고 밝혔다. 이는 향후 AI 기술이 더 넓은 범위에서 사용될 수 있는 기반을 마련할 것이라는 점에서 매우 의미가 크다.

AI 기술의 발전은 단순히 기업의 경쟁력을 높이는 것을 넘어, 우리의 일상생활에도 깊숙이 스며들고 있다. 리벨리온의 성공적인 모델 구동은 이러한 변화의 흐름 속에서 중요한 이정표가 될 것으로 예상되며, 앞으로도 더욱 많은 혁신이 이어질 것으로 기대된다.