모티프, 독파모 모델 ‘모티프 3’ 기술보고서 공개…챗봇 체험도 가능

모티프테크놀로지스가 최신 AI 모델 ‘모티프 3(Motif 3)’의 기술보고서를 공개하면서 인공지능 분야에서의 경쟁력을 한층 강화하고 있습니다. 이 모델은 독자적인 AI 기술을 바탕으로 개발된 파운데이션 모델로, 사용자가 직접 체험할 수 있는 챗봇 기능도 제공하고 있어 주목받고 있습니다.

독자 AI 모델의 진화

모티프 3는 엔비디아의 ‘NeMo-RL’ 라이브러리를 활용하여 강화학습 과정을 거쳤습니다. 이를 통해 사용자에게 더욱 정교하고 효율적인 서비스 제공을 목표로 하고 있습니다. 기술보고서는 허깅페이스 플랫폼에 공개되어, 누구나 쉽게 접근해 모델의 기능과 구조를 이해할 수 있도록 하고 있습니다. 임정환 모티프테크놀로지스 대표는 “이번 모델 홍보에는 엔비디아 본사가 함께하고 있으며, 최대한 많은 내용을 공유하기 위해 프로모션 타이밍을 맞췄다”고 전했습니다.

모티프 3는 중간 평가에서 아티피셜 애널리시스의 종합 성능 지표(AAII)에서 높은 점수를 기록했으며, 현재 베타 버전 기준으로는 45점을 기록하고 있습니다. 이는 동급 모델인 ‘미니맥스-M3’와 비슷한 수준으로, 업계의 기대를 모으고 있습니다.

차별화된 기술적 특징

모티프 3의 가장 큰 특징은 GDA(Generalized Dynamic Attention)에서 GDLA(Generalized Dynamic Learning Attention)로의 전환입니다. 이 변화는 불필요한 정보를 효과적으로 걸러내고, 메모리 절약 및 압축 저장 능력을 결합한 결과로 볼 수 있습니다. 3140억 개의 매개변수를 가진 이 모델은 실제로는 토큰당 132억 개의 매개변수만 활성화하여 작동합니다. 각 레이어는 384개의 전문가 모델을 갖추고 있으며, 이 전문가 모델들 중 8개를 선택해 사용하는 구조로 설계되어 있습니다.

특히 모티프 3는 12.5조 개의 토큰으로 사전 학습되었으며, 최대 입력 컨텍스트는 26만 토큰에 달해 높은 정보 처리 능력을 자랑합니다. 이는 SK텔레콤의 ‘에이닷엑스 케이투’ 모델의 25만6000토큰 컨텍스트와 유사한 수준입니다. 이처럼 대량의 데이터를 처리할 수 있는 능력은 다양한 애플리케이션에서의 활용 가능성을 더욱 넓혀줍니다.

향후 전망

모티프 3의 출시는 모티프테크놀로지스가 프론티어 대형 언어 모델(LLM) 경쟁에 본격적으로 뛰어들었다는 점에서 의미가 큽니다. 임 대표는 “엔비디아와의 협력을 통해, 모티프 3의 NVFP4 버전도 선보일 예정”이라며 더욱 발전된 기술력을 예고했습니다. 이러한 움직임은 AI 모델의 발전에 기여할 뿐만 아니라, 사용자의 요구에 맞춘 다양한 서비스가 추가로 출시될 가능성을 열어줍니다.

결론적으로, 모티프 3는 한국 AI 시장에서의 경쟁력을 더욱 강화할 중요한 이정표가 될 것으로 예상됩니다. 앞으로의 발전이 기대되는 가운데, 사용자가 직접 체험할 수 있는 챗봇 서비스도 많은 관심을 받을 것입니다. AI 기술의 진화가 우리 생활에 어떤 변화를 가져올지 귀추가 주목됩니다.