UAE, 세계 최대 규모 완전 오픈소스 AI 'K2 호라이즌' 공개

아랍에미리트(UAE)가 AI 기술의 새로운 이정표를 세우며 세계 최대 규모의 완전 오픈소스 AI 모델인 'K2 호라이즌(K2 Horizon)'을 공개했습니다. 이는 단순한 가중치 공개를 넘어, 연구 재현성과 투명성을 극대화한 진정한 의미의 오픈 사이언스 프로젝트로 주목받고 있습니다.

새로운 패러다임의 오픈소스 AI

3일 아부다비의 모하메드 빈 자예드 인공지능 대학교(MBZUAI) 산하 기초 모델 연구소(IFM)는 총 6종의 파운데이션 모델로 구성된 K2 호라이즌을 발표했습니다. 이번 프로젝트는 소스 코드, 전체 학습 데이터셋, 평가 및 학습 방법론까지 포함하여, AI 모델의 학습 과정을 보다 투명하게 공개했습니다. 기존의 AI 모델들이 최종 결과물만을 외부에 공개하는 방식에서 벗어나, 중간 체크포인트까지 배포함으로써 연구자들이 AI의 내부 작동 방식을 더욱 정밀하게 검증하고 재현할 수 있도록 한 점이 큰 특징입니다.

IFM의 창립자인 에릭 싱 총장은 "과학의 발전은 다른 사람들이 데이터를 검토하고, 방법론을 따르며, 결과를 재현하고, 이를 바탕으로 더 나은 성과를 도출할 때 비로소 이루어진다"며 K2 호라이즌의 중요성을 강조했습니다. 이러한 접근은 오픈소스 AI의 패러다임을 변화시킬 가능성을 시사합니다.

다양한 환경을 위한 모델 구성

K2 호라이즌은 매개변수 수에 따라 0.9B(9억개)부터 375B(3750억개)까지 다양한 모델을 제공합니다. 이를 통해 초소형 엣지 기기에서 대규모 엔터프라이즈 환경까지 폭넓게 활용할 수 있습니다. 특히, 0.9B 모델은 스마트워치와 같은 제약이 큰 온디바이스 환경에서 최상의 성능을 발휘하며, 3.7B 모델은 미세조정에 최적화되어 4B 이하 체급에서 뛰어난 추론 성능을 자랑합니다.

또한, 고밀도(Dense) 모델인 32B와 최상위 플래그십 모델인 375B는 각각 로컬 서버 및 기업용 AI 워크로드에 적합한 성능을 제공합니다. 특히, 375B 모델은 복합적인 추론과 에이전트 작업에 특화되어 이목을 끌고 있습니다. 이러한 다양한 모델들은 개발자가 동적 모델 라우팅 기술을 이용해 작은 모델에서 프로토타입을 제작하고, 수정 없이 상위 모델로 확장할 수 있도록 설계되었습니다.

혁신적인 기술 도입

K2 호라이즌은 또한 최신 기술을 통합하여 성능을 극대화했습니다. '디퓨전 디스틸레이션(Diffusion Distillation)' 기술은 응답 품질 저하 없이 추론 속도를 약 3배 향상시키며, 기존 LLM의 한계를 극복해 나가고 있습니다. 특히, 가치 주의 혼합(Mixture of Value Attention, MoVA) 아키텍처는 문맥 이해 과정에서 불필요한 연산을 줄이고 필요한 정보만 선택적으로 처리함으로써 메모리와 연산 비용을 대폭 절감했습니다.

이러한 기술적 혁신은 K2 호라이즌이 다양한 환경에서 최상의 성능을 발휘하도록 지원하며, 사용자의 요구에 맞추어 유연하게 대응할 수 있는 기반이 될 것입니다.

K2 호라이즌은 아파치 2.0 라이선스 아래로 배포되며, 이는 상업적 이용 및 재배포를 자유롭게 허용합니다. 개발자들은 허깅페이스를 통해 가중치와 학습 데이터셋을 직접 다운로드할 수 있으며, 주요 인퍼런스 파트너사의 API와 깃허브를 통해 다양한 활용이 가능합니다.

이번 K2 호라이즌의 출시는 AI 연구의 새로운 장을 열 것으로 보이며, 오픈소스 환경에서의 협업과 혁신을 촉진하는 계기가 될 것입니다. 앞으로 AI 기술의 발전이 더욱 가속화되고, 더 많은 연구자와 개발자들이 이 혜택을 누릴 수 있기를 기대합니다.