카카오, 온디바이스용 '카나나-2' 경량 모델 4종 오픈소스 공개

카카오는 최근 자체 개발한 AI 모델 '카나나'의 경량 언어모델(SLM) 4종을 오픈소스로 공개하며 AI 기술의 접근성을 높이고 있다. 이번 발표는 28일 이루어졌으며, 공개된 모델은 ▲카나나-2-1.3B-base ▲카나나-2-1.3B-instruct ▲카나나-2-3B-base ▲카나나-2-3B-instruct 등으로 구성된다. 이 모델들은 스마트폰이나 개인 PC에서도 별도의 제약 없이 쉽게 구동할 수 있도록 설계되어 있어, 상업적 활용이 가능하다는 점에서 주목할 만하다.

경량 모델의 특징과 성능

카카오는 이번 모델들이 한국어와 영어 모두에서 우수한 성능을 발휘한다고 강조했다. 특히, 기존의 최신 오픈소스 모델 대비 크기를 줄였음에도 불구하고 뛰어난 성능을 유지하고 있다는 점에서 많은 이들의 기대를 모은다. 이 모델들은 이미 카카오톡에서 제공하는 대화 요약, 통화 요약 서비스와 AI 국민비서 등 다양한 서비스에 활용되고 있다.

더불어, 카카오는 이러한 모델에 한국어 특화 토크나이저를 적용해 한국어 처리 효율을 30% 이상 개선했다고 밝혔다. 이는 한국어 사용자들에게 더욱 향상된 경험을 제공할 것으로 기대된다. 또한, '슬라이딩 윈도우 어텐션' 구조를 도입하여 최대 32K(32000 토큰) 길이의 대화에서도 메모리 사용량을 최대 72.7%까지 절감할 수 있어, 온디바이스 환경에서도 원활하게 작동할 수 있도록 최적화되었다.

AI 생태계의 활성화

카카오의 노병석 유니파이드 파운데이션 모델 성과 리더는 "에이전틱 AI 시대를 준비하며 클라우드 AI와 온디바이스 경량 AI 모두의 중요성을 체감하고 있다"고 전하며, 이번 모델이 국내 AI 서비스 개발에 기여할 수 있기를 바란다고 말했다. 이러한 발언은 카카오가 앞으로도 지속적으로 AI 기술 개발에 투자하고, 이를 통해 다양한 서비스와 솔루션을 제공할 의지를 드러내는 대목이다.

AI 기술이 우리 생활의 많은 부분에 스며들고 있는 가운데, 카카오는 이번 경량 모델 오픈소스를 통해 개발자들이 보다 쉽게 AI 기술을 활용할 수 있는 토대를 마련했다. 이러한 변화는 AI 생태계의 활성화는 물론, 다양한 산업 분야에서 혁신을 이끌어내는 계기가 될 것으로 기대된다.

결론

카카오는 '카나나'의 경량 모델 공개를 통해 AI 기술의 접근성을 높이고, 국내 AI 생태계 발전에 기여하고자 하는 의지를 보였다. 앞으로 이러한 모델들이 다양한 서비스에 적용되어 사용자들에게 보다 나은 경험을 제공할 수 있을지 기대가 모아진다. 특히, 한국어 처리 효율성을 높인 점은 국내 시장에서 더욱 큰 경쟁력을 발휘할 가능성을 보여준다. AI 기술이 발전함에 따라, 카카오는 미래의 AI 서비스 혁신을 이끌어가는 선도적인 역할을 할 것으로 전망된다.