SKT, 'A.X K2' 오픈 공개...국내 최대 ‘6880억 매개변수’

SK텔레콤이 최근 인공지능 모델 'A.X K2'를 오픈 공개하며 국내 AI 시장에 새로운 이정표를 세웠습니다. 6880억 개의 매개변수를 자랑하는 A.X K2는 현재까지 공개된 국내 모델 중에서 가장 큰 규모를 기록하며, 이를 통해 SK텔레콤은 AI 분야에서의 경쟁력을 더욱 강화할 계획입니다.

A.X K2: 역대 최대 규모의 AI 모델

SK텔레콤은 29일, 허깅페이스 플랫폼을 통해 'A.X K2'를 공개했습니다. 아파치 2.0 라이선스 하에 배포되는 이 모델은 누구나 자유롭게 다운로드하여 사용할 수 있습니다. A.X K2는 688B 규모의 메인 모델을 포함해 세 가지 파생 모델(21B 규모의 'A.X K2 VL 라이트-프리뷰', 22B 규모의 'A.X K2 ALM', 'A.X K2 라온-스피치')을 줄줄이 선보이며, AI 기술의 진화를 이끌어가고 있습니다.

특히 주목할 점은 A.X K2의 매개변수 수치입니다. 하이퍼파라미터의 수는 6880억으로, 과거 5190억 개의 매개변수를 가진 'A.X K1'을 뛰어넘는 수치입니다. 이는 LG AI연구원, 업스테이지, 모티프테크놀로지스의 모델들과 비교할 때도 압도적인 수치로, 이들 모델은 각각 250B, 314B, 236B의 매개변수를 보유하고 있습니다. 이러한 매개변수 확대는 AI 모델의 성능 향상으로 이어질 것으로 기대됩니다.

전문가 혼합 구조와 성능 개선

A.X K2는 전문가 혼합(MoE) 구조를 채택하여 256개의 전문가 중 8개만을 활성화하는 방식으로 운영됩니다. 이 구조는 이전 버전인 K1보다 선택지를 대폭 확장하여 다양한 사용자 요구에 맞는 응답을 가능하게 합니다. 또한, 컨텍스트 창은 최대 25만6000토큰으로 증가하여, 긴 문서나 대화의 이해가 한층 수월해졌습니다. 과거의 10조 토큰에 비해 사전학습 데이터의 양은 다소 줄어들었지만, 모델 구성과 아키텍처, 그리고 혁신적인 학습 방법을 통해 성능 향상을 이뤄냈습니다.

특히 '희소 게이트 어텐션(Sparse Gated Attention)' 구조는 긴 문맥에서 관련성이 높은 정보만을 선별하여 참조하는 데 중점을 두고 개발되었습니다. 이를 통해 산업 현장에서 요구되는 높은 정확성과 운영 효율성을 확보할 수 있었습니다. A.X K2는 수학, 과학, 한국어 고난도 추론 등 여러 벤치마크에서 K1 대비 평균 32.2% 향상된 성능을 기록하며, 국내외 경쟁 모델들과 비교해도 우수한 성능을 보여주고 있습니다.

다양한 산업에의 적용 가능성

SK텔레콤은 A.X K2의 다양한 산업 활용 방안을 모색하고 있습니다. 특히 비전 언어 모델을 통해 이미지와 텍스트를 동시에 이해하여, 보고서 및 매뉴얼 작성, 이미지 분석 등에서 활용될 수 있습니다. 예를 들어, 영수증이나 법률 문서의 분석, 산업 현장의 배관 해석까지 가능한 수준으로 발전할 것으로 기대됩니다.

또한, 고객센터의 음성통화 처리와 같은 서비스 분야에서도 A.X K2의 활용 가능성이 큽니다. SK텔레콤은 KG스틸과 SK하이닉스 등 여러 기업과 협력하여 실질적인 적용 사례를 발굴하고 있으며, 이를 통해 산업 전반에 걸쳐 AI 기술의 실용성을 증진시키고자 합니다.

결론적으로, SK텔레콤의 A.X K2 공개는 한국 AI 산업에 큰 전환점을 가져올 것으로 보입니다. 매개변수의 확대와 성능 향상을 통해 글로벌 시장에서도 경쟁력을 갖춘 AI 모델로 자리매김할 가능성이 높습니다. 앞으로 SK텔레콤이 A.X 모델을 지속적으로 고도화하며 나아갈 길이 기대됩니다.