"AI 양자화 정확하고 안전하게"...옵트에이아이, EMNLP 논문 2편 채택

옵트에이아이, AI 양자화의 새로운 기준 제시

최근 옵트에이아이(대표 이재호)가 자연어처리(NLP) 분야의 국제학술대회인 'EMNLP 2026'에서 두 편의 논문을 채택받았다. 이는 해당 대회가 개최된 이래로 역대 최다 논문이 제출된 가운데서도 이룬 성과로, 옵트에이아이는 메인 컨퍼런스와 인더스트리 트랙에서 각각 채택된 것으로 알려졌다. 이번 성과는 옵트에이아이의 연구 역량과 함께 AI 기술 발전에 기여할 것으로 기대된다.

AI 양자화의 혁신, '커널퀀트'

옵트에이아이의 첫 번째 논문은 '커널퀀트: 표현 커널 보존을 통한 사후 학습 양자화'라는 제목으로, 대규모 언어 모델(LLM)의 양자화 과정에서의 새로운 접근법을 제시하고 있다. 양자화란 모델의 크기를 줄이기 위해 파라미터의 비트 수를 줄이는 과정을 의미하며, 이를 통해 운영 비용과 메모리 소모를 줄일 수 있다. 그러나 기존의 양자화 기법은 성능 저하를 초래하는 문제점이 있었다.

이번 연구에서는 기존의 '원소 단위 오차 최소화' 방식이 실제 성능을 왜곡한다는 점을 규명했다. 연구팀은 모델이 학습한 표현 간의 기하학적 관계를 보존하는 새로운 양자화 프레임워크를 제안했으며, 이 방법은 별도의 재학습 없이도 10분 이내에 적용할 수 있는 장점이 있다. 특히 4비트 압축 시 발생하는 '추론 절벽' 현상에서 기존 대비 최대 4.75%의 정확도 유지율 향상을 기록했다는 점은 인상적이다. 이 기술은 비전 및 오디오 모델에도 적용 가능하다는 점에서 범용성이 높다.

온디바이스 AI의 안전성, 새로운 기준 설정

두 번째 논문은 '양자화가 포맷을 무너뜨린다: 가중치 압축이 온디바이스 LLM의 대화 포맷 안전성을 저해하는 방식'이라는 제목으로, 스마트폰과 PC에서 구동되는 온디바이스 LLM의 안전성을 검증한 연구다. 연구팀은 상용 모델 9개를 기준으로, 다양한 양자화 수준과 공격 조건에서 실제 배포 환경에서의 안전성을 시험했다. 그 결과, 초경량 압축이 소형 모델의 유해 응답률을 최대 75.3%까지 증가시킬 수 있음을 발견했다.

이는 원본 모델에서 검증된 안전장치가 압축 후 무력화될 수 있음을 시사하는 중요한 발견이다. 연구팀은 이를 바탕으로 실무자용 배포 안전성 체크리스트와 진단 도구도 함께 공개하며, 실제 산업에 활용 가능한 방안을 모색하고 있다.

글로벌 시장으로의 도약

옵트에이아이는 LG전자, LG유플러스, 현대자동차, 한화에어로스페이스 등 국내 유수의 대기업과 협력하고 있으며, 미국, 일본, 독일 등 글로벌 시장에도 진출하고 있다. 이재호 대표는 “이번 두 논문은 AI 모델을 작고 똑똑하게 만들고, 이를 안전하게 배포하기 위한 연구”라며, “향후 국내외 스마트폰 제조사 및 앱 개발사와 협력해 글로벌 온디바이스 AI 솔루션으로 발전시키겠다”고 포부를 밝혔다.

이번 연구는 AI 양자화 기술의 새 장을 여는 계기가 될 것으로 보이며, 향후 다양한 산업 분야에서의 활용 가능성을 높이는데 중요한 역할을 할 것으로 기대된다. 옵트에이아이의 지속적인 기술 혁신과 연구는 AI 기술의 안전한 발전을 위한 중요한 기초가 될 것이다.