노타, 글로벌 학회 'ICML 2026' AI 모델 최적화 챌린지 세계 3위 기록

노타가 글로벌 머신러닝 학회 'ICML 2026'에서 오픈소스 대형언어모델(LLM) '큐원' 최적화 챌린지에서 세계 3위에 오르며 눈길을 끌고 있다. 이 대회는 다양한 팀들이 참가하여 엔비디아 A10G GPU 환경에서 큐원 모델의 성능을 유지하면서도 답변 생성 속도를 얼마나 향상시킬 수 있는지를 평가하는 자리로, 총 40개 이상의 팀이 경합을 벌였다.

뛰어난 최적화 기술로 3위 기록

노타는 평균 6.978배의 빠른 추론 최적화 기술을 바탕으로 본 대회에서 3위라는 쾌거를 이뤘다고 13일 발표했다. 특히, 노타는 자체 개발한 양자화 기술을 활용하여 모델의 메모리 사용량과 연산량을 효과적으로 줄이는 데 성공했다. 이러한 기술들은 대형 언어 모델의 효율성을 극대화하고, 데이터 처리의 속도를 높이는 데 중요한 역할을 한다.

추가적으로, '슬라이딩 윈도우 어텐션(Sliding-window Attention)' 기법이 도입되어 입력 정보를 중심으로 연산을 최적화하였다. 이 방식은 불필요한 계산을 줄여주며, 초안 모델이 생성한 답변 후보를 본 모델이 검증하여 최종 답변을 완성하는 '추측적 디코딩(Speculative Decoding)' 기술을 통해 더욱 신속한 추론이 가능해졌다. 이처럼 노타는 기술적 우위를 바탕으로 대회에서 높은 성과를 거두었다.

ICML 2026에서의 다양한 활동

이번 ICML 2026 기간 동안 노타는 '자원 적응형 파운데이션 모델 추론(AdaptFM) 워크숍'에서 전문가 혼합(MoE) 구조 기반의 LLM 양자화에 관한 두 편의 논문을 발표하며 업계의 주목을 받았다. 노타는 이와 더불어 코엑스 인근에서 자체 행사를 개최하여, 오픈AI, 구글, 퀄컴 등 글로벌 기업 관계자들에게 AI 최적화 연구 동향과 산업 적용 가능성을 소개했다. 이러한 노력은 노타가 AI 산업에서의 입지를 더욱 확고히 하는 데 기여하고 있다.

김태호 노타 최고 기술책임자(CTO) 겸 공동 창립자는 "이번 성과는 AI 모델인 큐원에 대한 노타의 추론 최적화 기술력을 검증받은 사례"라며 "앞으로도 다양한 AI 서비스와 온디바이스, 엣지 AI 환경에 최적화 기술을 적용해 나갈 것"이라고 강조했다. 이는 노타가 AI 기술 분야에서 지속적으로 혁신을 추구하겠다는 의지를 드러내는 발언이기도 하다.

향후 전망

노타의 3위 성과는 단순한 경쟁 결과 이상의 의미를 지닌다. 이는 AI 모델 최적화 기술이 실질적인 시장 경쟁력으로 발전할 수 있음을 보여주는 사례로, 향후 다양한 산업 분야에 걸쳐 AI 기술의 적용 가능성을 더욱 넓혀갈 것으로 기대된다. 앞으로 노타가 전 세계 AI 시장에서 어떤 혁신을 이끌어낼지 귀추가 주목된다.