싱킹 머신즈, '잉클링-스몰' 공개…4분의 1 크기로 동급 최고 성능 확보

싱킹 머신즈(TML)가 최근 발표한 ‘잉클링-스몰(Inkling-Small)’은 동급 최고의 오픈웨이트 모델 중 하나로 주목받고 있다. 기존의 플래그십 모델인 ‘잉클링’에 비해 크기를 4분의 1로 줄였음에도 불구하고, 놀라운 성능을 유지하거나 일부 벤치마크에서는 오히려 더 나은 결과를 기록한 것이다. 이번 모델은 효율성과 실용성을 모두 갖춘 혁신적인 AI 솔루션으로 평가받고 있다.

혁신적인 설계, 성능의 향상

‘잉클링-스몰’은 총 2760억 개의 매개변수를 갖춘 전문가 혼합(MoE) 구조를 채택하고 있으며, 실제 추론 시에는 120억 개의 활성 매개변수만 사용한다. 이것은 기존의 잉클링 모델이 갖고 있던 9750억 개의 매개변수와 비교해 눈에 띄게 감소한 수치다. 그럼에도 불구하고, TML은 이 모델이 텍스트, 이미지, 음성 등 다양한 입력 방식에 대한 멀티모달 성능을 그대로 유지하고 있다고 강조했다. 특히 ‘가변 추론(Variable Thinking Effort)’ 기능을 통해 작업의 난이도에 따라 추론량을 조절할 수 있게 되었다.

최근 아티피셜 애널리시스의 평가에 따르면, ‘잉클링-스몰’은 지능 지수에서 40점을 기록하여 플래그십 모델인 잉클링과 불과 1점 차이로 뒤쫓고 있다. 이는 동급의 오픈웨이트 모델 중 가장 높은 점수이며, 여러 벤치마크에서 기존 모델을 초과하는 성과를 보여줬다. 특히 ‘인류의 마지막 시험(HLE)’에서 31.6%의 점수를 기록하여 잉클링의 29.7%를 뛰어넘었다.

멀티모달 처리 능력의 강화

이번 모델은 멀티모달 처리 능력에서도 큰 발전을 이루었다. 이미지의 경우 40×40 픽셀 단위로 분할하여 처리하며, 오디오는 dMel 스펙트로그램 형식으로 변환하여 텍스트와 함께 통합 처리할 수 있다. 이로 인해 문서와 차트 분석 능력이 크게 향상되었으며, 파이썬을 활용한 이미지 분석 기능도 강화되었다. 이처럼 다양한 입력 방식으로부터 효율적으로 정보를 처리할 수 있는 능력은 실무에서의 활용 가능성을 높인다.

또한, TML은 ‘온폴리시(On-policy)’ 증류 학습과 에이전트 코딩 강화학습(RL)을 통해 모델의 성능을 더욱 끌어올렸다. 이를 통해 추론과 코딩 능력이 더욱 향상되었고, 안전성 또한 기존 모델 수준에서 유지되고 있다. 유해한 요청을 거부하는 스트롱리젝트(StrongREJECT) 기능과 위험 평가 시스템도 포함되어 있어, 실용성과 안전성을 동시에 갖춘 모델로 자리매김하고 있다.

향후 AI 기술의 방향성

‘잉클링-스몰’은 기존의 플래그십 모델에 비해 경량화와 미세 조정이 가능하다는 점에서 큰 장점을 지닌다. 기업들이 이 모델을 활용하여 더 많은 데이터를 처리하고, 복잡한 작업을 보다 효과적으로 수행할 수 있는 기회를 제공할 것으로 보인다. 특히, 아파치 2.0 라이선스 하에 공개되어 기업들이 자유롭게 수정하고 상용 서비스를 구축할 수 있는 점은 향후 AI 생태계의 발전에 긍정적인 영향을 미칠 것으로 기대된다.

결론적으로, 싱킹 머신즈의 ‘잉클링-스몰’은 효율성과 성능을 동시에 갖춘 혁신적인 모델로, AI 기술의 발전 방향을 제시하는 중요한 이정표가 될 것으로 전망된다.