노타, 퓨리오사 NPU에 'K-엑사원' 탑재..."크기 71% 압축하며 성능 유지"

노타가 퓨리오사AI의 NPU에 LG AI 모델 ‘K-엑사원’ 최적화를 완료하며 AI 기술의 새로운 가능성을 열어가고 있다. 이번 성과는 대형 AI 모델의 경량화와 성능 유지 간의 어려운 균형을 성공적으로 맞춘 사례로, IT 업계에 큰 주목을 받고 있다.

K-엑사원, 혼합 전문가 모델의 혁신

노타는 30일 자사의 대표 모델인 K-엑사원에 대해 퓨리오사AI의 데이터센터용 신경망처리장치(NPU)에서 최적화 작업을 완료했다고 발표했다. K-엑사원은 무려 2360억 개의 매개변수를 지닌 대형 AI 모델로, 여러 전문가 모델을 선택적으로 활용하는 혼합전문가(MoE) 구조를 채택하고 있다. 이 구조는 필요한 작업에 따라 다양한 전문가 모델을 호출하여 효율성을 극대화하는 방식이다.

노타는 이번 최적화 과정에서 자체 개발한 ‘MoE 양자화’ 기술을 적용했다. 이 기술은 모델 전체를 조정하지 않고 필요한 부분만 최적화하여 성능 손실을 최소화하는 특징이 있다. 이를 통해 K-엑사원의 모델 크기를 무려 71% 줄이면서도 기존 수준의 정확도를 유지하는 성과를 거두었다. 과학 추론, 지시 이해, 수학 문제 해결 등 다양한 평가 항목에서도 높은 점수를 기록했다.

경량화의 성공, 성능은 그대로

K-엑사원의 최적화를 통해 달성한 성과는 특히 주목할 만하다. 모델 크기를 줄였음에도 불구하고, 원본 모델에 비해 정확도는 99.2%에 달한다. 이는 대형 AI 모델의 경량화가 가능하다는 것을 증명하며, 실제 서비스에 필요한 성능과 안정성을 유지할 수 있음을 보여준다. 과학 추론(GPQA)에서 79.80점, 지시 이해(IFBench)에서 68.98점, 수학 문제 해결(AIME25)에서 88.57점을 기록하며, AI 모델의 실용성을 한층 높였다.

채명수 노타 대표는 "이번 성과는 퓨리오사AI의 데이터센터용 NPU, LG의 국가대표 AI 모델 K-엑사원, 그리고 노타의 최적화 기술이 결합해 대형 AI 모델의 실제 운영 가능성을 입증한 의미 있는 사례"라고 강조했다. 이는 앞으로 AI 기술이 다양한 산업 분야에서 더욱 활발히 활용될 수 있는 가능성을 제시한다.

향후 전망과 의미

이번 K-엑사원 최적화 작업은 인공지능 기술의 발전에 있어 중요한 이정표가 될 것으로 보인다. 대형 AI 모델을 경량화하면서도 성능을 유지하는 기술은 향후 다양한 응용 분야에서 큰 변화를 가져올 것으로 기대된다. 특히, 클라우드 기반의 AI 서비스가 더욱 확산됨에 따라, 비용과 성능 간의 균형을 맞춘 경량화 기술의 필요성이 더욱 커질 것이다.

노타의 혁신적인 접근법은 다른 기업들에게도 좋은 사례가 될 수 있으며, 앞으로의 AI 산업 발전에 긍정적인 영향을 미칠 것으로 예상된다. AI 기술이 일상에 더욱 밀접하게 자리 잡게 되는 그날까지, 노타는 지속적인 연구와 개발에 매진할 계획이다.