스텝펀, 차세대 MoE 모델 '스텝 5 프리뷰' 공개...에이전트·금융 특화

중국의 인공지능 스타트업 스텝펀(StepFun)이 최근 에이전트 작업과 금융 분석 등 다양한 분야에 특화된 차세대 모델 ‘스텝 5 프리뷰(Step 5 Preview)’를 공개했습니다. 이 모델은 높은 지능을 유지하면서도 운영 비용을 절감하는 데 중점을 두고 개발되었으며, 최첨단 기술을 바탕으로 소프트웨어 엔지니어링 및 금융 분야에서 뛰어난 성능을 발휘할 것으로 기대됩니다.

혁신적인 모델, 스텝 5 프리뷰

스텝 5 프리뷰는 총 6000억 개의 매개변수를 갖춘 대규모 모델로, 특별히 설계된 희소 전문가 혼합(MoE) 구조를 적용해 각 토큰당 270억 개의 매개변수를 활성화합니다. 이 모델은 최대 100만 토큰의 컨텍스트를 지원하며, 시각적 멀티모달 입력도 가능하다는 점이 특징입니다. 이를 통해 스텝펀은 다양한 작업 환경에서의 효율성을 극대화하고, 이전의 모델들이 가지지 못했던 새로운 가능성을 열었습니다.

특히 에이전트 작업 부분에서 스텝 5 프리뷰는 사용자가 스스로 작업을 결정하고 반복할 수 있는 능력을 강조하고 있습니다. 예를 들어, 장시간 실행되는 작업을 통해 이전 결과를 바탕으로 새로운 실행 피드백을 반영하여 더 나은 결과를 도출할 수 있습니다. 스텝펀은 이 모델이 GPU 커널 최적화와 같은 복잡한 작업을 24시간 동안 수행할 수 있도록 설계했으며, 실제 실험에서도 508 TFLOPS의 성능을 기록할 수 있었습니다.

다양한 분야로의 확장

스텝 5 프리뷰는 단순한 코딩 및 웹 애플리케이션 개발을 넘어 3D 디자인과 프로그래밍 가능한 하드웨어 개발에도 활용될 수 있습니다. 스텝펀은 자체 코딩 평가 시스템인 '스텝코드벤치(StepCodeBench)'를 통해 553개 코드 저장소와 33개 프로그래밍 언어, 9개 작업 유형을 평가한 결과, 평균 49.0%의 성과를 기록했습니다. 이는 해당 모델의 강력한 학습 능력을 시사합니다.

또한, 대규모의 자료 수집과 분석 업무도 가능하다는 점에서 스텝 5 프리뷰는 높은 활용성을 보여줍니다. 한 기후 연구에서는 단 한 번의 에이전트 작업을 통해 950회의 웹 검색을 수행하고, 25년간의 월별 기후 데이터를 30만 건이나 수집한 사례가 있습니다. 이는 정보의 신뢰성과 유용성을 높이는 데 기여할 것으로 기대됩니다.

금융 분야의 혁신을 이끌다

특히 스텝 5 프리뷰는 금융 분야에 집중하여 개발된 기능을 갖추고 있습니다. 스텝펀은 자사의 ‘핀스텝벤치(FinStepBench)’를 통해 금융 정보 검색과 기업 가치 평가, 심층 금융 연구를 수행할 수 있는 기능을 평가합니다. 이 외에도 외부 평가인 ‘프런티어파이낸스(FrontierFinance)’를 통해 6개 투자 분야에서 성능을 측정해 안정성과 신뢰성을 강화했습니다.

스텝 5 프리뷰는 공개 평가 플랫폼인 아티피셜 애널리시스에서 44점을 기록하며, 유사한 지능 지수의 모델 중에서도 낮은 작업 비용을 자랑하고 있습니다. 이는 기업들이 이 모델을 통해 보다 효율적으로 작업을 수행할 수 있는 기반을 마련해 줍니다.

스텝펀은 오는 10월 15일에 정식 오픈소스를 공개할 예정이며, 이를 통해 더 많은 개발자와 연구자들이 스텝 5 프리뷰의 기능을 활용할 수 있을 전망입니다. 앞으로 스텝펀의 혁신적인 모델이 다양한 산업에서 어떻게 활용될지 귀추가 주목됩니다.