세레브라스·업스테이지, 국내에 ‘초당 2000토큰’ 초고속 추론 제공

미국의 AI 반도체 기업 세레브라스(Cerebras)와 국내 AI 선두주자인 업스테이지(Upstage)가 손을 잡고 초고속 AI 서비스 시장을 겨냥한 혁신적인 파트너십을 발표했다. 이번 협력을 통해 양사는 업스테이지의 대형언어모델(LLM)인 '솔라(Solar) 31B'를 세레브라스의 클라우드 인프라에서 구동하며, 초당 최대 2000개의 토큰을 처리할 수 있는 고속 추론 성능을 자랑하게 된다. 이는 다양한 산업 분야에서 실시간 데이터 처리가 필요한 비즈니스 환경에 큰 변화를 가져올 전망이다.

초고속 추론의 새로운 장을 열다

세레브라스는 독자적인 '웨이퍼 스케일 엔진(WSE)' 기술을 기반으로 한 인프라를 통해 대량의 데이터를 신속하게 처리할 수 있는 능력을 갖추고 있다. 이번 협력으로 업스테이지의 솔라 모델은 기존 GPU 기반 시스템보다 훨씬 낮은 지연 속도를 기록, 복잡한 검색 쿼리나 데이터 분석을 몇 분이 아닌 몇 초 안에 처리할 수 있게 된다. 이러한 혁신은 금융, 보험, 의료, 제조 등 다양한 분야에서 실시간 상호작용이 필수적인 비즈니스 워크플로우를 더욱 효율적으로 변화시킬 것으로 기대된다.

김성훈 업스테이지 대표는 "세레브라스와의 협력을 통해 개발자들에게 세계 최고 수준의 추론 속도를 제공할 수 있게 되어 기쁘다"며, "양사는 대규모 AI 애플리케이션 구축을 보다 손쉽게 만들어갈 것"이라고 강조했다. 이러한 발언은 두 회사의 협력이 단순한 기술적 연결을 넘어, 실제 비즈니스에서의 활용 가능성까지 확장될 것임을 시사한다.

기술의 경계를 넘다

이번 파트너십의 가장 큰 장점 중 하나는 기존 애플리케이션 개발 워크플로우를 변경하지 않고도 세레브라스의 고속 컴퓨팅 환경을 활용할 수 있다는 점이다. 개발자들은 오픈AI 호환 API를 통해 쉽게 솔라 모델을 통합할 수 있으며, 이는 AI를 활용한 비즈니스 솔루션의 구현을 한층 더 가속화할 것으로 보인다.

줄리 최 세레브라스 최고 마케팅책임자(CMO)는 "한국은 AI 혁신의 최전선에 있으며, 업스테이지와 협력하여 전 세계 개발자와 기업들이 새로운 차원의 추론 성능을 구현할 수 있도록 돕게 되어 기쁘다"며, 이 협력이 글로벌 AI 시장에서의 한국의 위상을 더욱 높일 것임을 강조했다.

미래를 향한 도약

세레브라스와 업스테이지의 협력은 단순히 기술적 결합을 넘어, AI 서비스의 미래를 제시하는 중요한 이정표가 될 것으로 보인다. 양사는 이번 협력을 시작으로 기술적 기회 평가와 구체적인 사용 사례 발굴에 긴밀히 협력할 예정이다. 특히, 업스테이지의 고성능 모델을 세레브라스 플랫폼에 도입함으로써, 초고속 다국어 실시간 AI 애플리케이션 생태계를 확장할 계획이다.

결국 이러한 발전은 AI 기술의 접근성을 높이고, 다양한 산업에서의 혁신을 촉진할 것이다. 전 세계 개발자들과 기업들이 이 새로운 플랫폼을 통해 어떤 창의적이고 효율적인 솔루션을 만들어낼지 귀추가 주목된다.