문샷, '키미 K3' 모델 가중치 공개...인프라 3종도 오픈소스로

문샷 AI가 최근 발표한 ‘키미 K3’ 모델의 가중치가 공식적으로 공개되면서, AI 개발자들에게 새로운 기회가 열렸다. 이와 함께 대규모 AI 모델의 학습과 추론을 지원하는 세 가지 인프라 프로젝트도 오픈소스로 배포되며, 문샷 AI는 오픈소스 AI 생태계의 확대에 박차를 가하고 있다.

키미 K3 모델의 특징

키미 K3는 총 2조8000억 개의 매개변수를 지닌 세계 최대 규모의 오픈웨이트 AI 모델 중 하나로, 실제 추론 과정에서는 약 1042억 개의 매개변수만 활성화되는 ‘전문가 혼합(MoE)’ 구조를 채택하여 연산 효율성을 높였다. 이 모델은 최대 100만 토큰의 컨텍스트 창을 지원해, 방대한 양의 문서나 코드베이스를 하나의 프롬프트에서 처리할 수 있는 능력을 갖추고 있다.

문샷 AI는 이 모델의 가중치를 허깅페이스를 통해 공개하였으며, 공개 이후 다운로드 수가 급증해 28일 오전 기준으로 2850건에 달했다. 이를 통해 전 세계의 개발자들은 키미 K3를 자유롭게 다운로드하고, 자신만의 환경에서 실행하거나 수정 및 배포할 수 있는 기회를 가지게 되었다.

오픈소스 인프라 프로젝트

문샷 AI는 키미 K3의 모델 공개와 함께 세 가지 인프라 프로젝트도 오픈소스로 배포했다. 첫 번째는 ‘문EP(MoonEP)’로, MoE 기반의 대규모 분산 학습에서 전문가 간 통신 병목을 줄여주는 라이브러리다. 수천 개의 GPU가 동시에 학습하는 환경에서는 전문가 모듈 간 데이터 교환 비용이 성능의 핵심 요소인데, 문EP는 이러한 통신 오버헤드를 줄여 학습 효율을 크게 향상시킨다.

두 번째 프로젝트인 ‘플래시KDA(FlashKDA)’는 엔비디아 CUDA 라이브러리인 CUTLASS를 기반으로 한 AI 추론 커널로, 긴 입력을 처리할 때 프리필 속도를 기존보다 1.72~2.22배 향상시킬 수 있다고 밝혔다. 이는 AI가 사용자의 긴 프롬프트를 처음 분석하는 단계로, 전체 응답 속도에 큰 영향을 미친다.

마지막으로 ‘에이전트ENV(AgentENV)’는 키미 K3의 에이전트 기반 강화학습(RL)을 위한 분산 가상화 플랫폼으로, MIT 라이선스 하에 공개되었다. 실제 컴퓨터와 유사한 독립 실행 환경에서 대규모 작업과 학습을 안정적으로 수행할 수 있도록 설계되었으며, 특히 기존 컨테이너 방식의 보안 한계와 일반 가상머신의 느린 실행 속도를 해결하기 위해 파이어크래커 마이크로VM을 활용했다.

오픈소스 생태계의 확대

문샷 AI는 이번 모델과 인프라 프로젝트 공개를 통해 오픈소스 AI 생태계의 확대에 박차를 가하고 있다. 양즈린 창립자는 폐쇄형 모델과 차별화된 개방성과 자유로운 활용성을 핵심 전략으로 삼고 있으며, 이를 통해 키미 K3는 미국 주요 AI 모델과의 격차를 줄이는 데 성공했다.

향후 문샷 AI는 키미 K3를 기반으로 한 다양한 AI 에이전트 시스템의 구축을 지원할 것으로 보인다. 기업들은 이 모델을 통해 더욱 효율적이고 혁신적인 AI 솔루션을 개발할 수 있을 것으로 기대하고 있다. 이러한 흐름은 AI 기술의 발전과 함께 혁신적인 비즈니스 모델의 창출로 이어질 가능성이 높다.