인셉션, 초당 1107토큰 생성하는 ‘머큐리 2.5’ 공개..."지능·비용 다 잡았다"

최근 인셉션 랩스(Inception Labs)가 새로운 생성형 언어 모델 ‘머큐리 2.5(Mercury 2.5)’를 발표하며 기존 모델의 한계를 극복한 혁신적인 기술을 선보였다. 이번 모델은 초당 1,107개의 토큰을 생성할 수 있는 놀라운 성능을 자랑하며, 응답 속도와 비용 효율성을 동시에 잡았다는 점에서 큰 주목을 받고 있다.

고속 생성과 비용 효율성의 조화

머큐리 2.5는 이전 모델인 머큐리 2보다 지능 성능이 무려 40% 향상되었으며, 이는 특히 실시간 대화나 대량 데이터 처리에서도 두각을 나타낸다. 이 모델은 최대 26만 개의 토큰 컨텍스트를 지원하여 사용자가 원하는 정보를 보다 신속하게 처리할 수 있도록 돕는다. 더불어, 정식 가격은 입력 토큰 100만 개당 0.20달러, 출력 토큰 100만 개당 0.75달러로 설정되어 있어, 초기 출시에는 더욱 매력적인 할인 혜택이 제공된다. 이러한 가격 경쟁력은 다양한 기업들이 비용 부담 없이 이 모델을 도입할 수 있는 발판이 될 것이다.

인셉션 랩스는 머큐리 2.5의 개발 과정에서 수천 명의 개발자와 다양한 기업의 피드백을 적극적으로 반영했다고 밝혔다. 특히 검색 서비스의 경우, 한 번의 검색 요청을 처리하기 위해 여러 차례의 모델 호출이 필요하다. 머큐리 2.5는 이러한 반복 호출을 단일 상호작용 안에서 처리할 수 있는 빠른 속도를 제공, 사용자 경험을 극대화한다.

다양한 분야에서의 응용 가능성

머큐리 2.5는 음성 인식 및 코딩 에이전트 분야에서도 그 활용 가능성을 보여주고 있다. 예를 들어, AI 전화 에이전트 업체인 오픈콜(OpenCall)은 이 모델을 실제 운영 환경에 적용한 결과, 응답 지연 시간을 약 170밀리초까지 단축하는 성과를 거두었다. 이는 고객 통화 시 지연 시간이 매우 중요한 음성 서비스 분야에서 큰 장점을 제공할 것으로 기대된다.

코딩 플랫폼인 어그먼트 코드(Augment Code) 역시 머큐리 2.5의 도입으로 컨텍스트 압축 작업의 처리 지연 시간을 82% 줄이고, 비용도 90% 절감하는 성과를 달성했다. 이처럼 다양한 산업에서의 실제 적용 사례가 늘어남에 따라 머큐리 2.5는 빠르게 시장에서 자리 잡을 가능성이 높아 보인다.

향후 전망

인셉션 랩스는 머큐리 2.5뿐만 아니라 음성 에이전트에 최적화한 ‘머큐리 보이스’와 요청을 자동으로 배분하는 ‘머큐리 라우터’와 같은 추가 모델들도 공개했다. 이러한 기술들은 AI 기반의 서비스가 더욱 발전할 수 있는 초석이 될 것이다. 앞으로도 인셉션 랩스는 지속적인 기술 혁신을 통해 AI 모델의 성능을 극대화하고, 사용자 경험을 한층 더 향상시키기 위해 노력할 것으로 기대된다.

머큐리 2.5의 출시로 인해 AI 언어 모델 시장의 경쟁이 더욱 치열해질 전망이며, 이는 결국 사용자에게 더 나은 서비스와 경험으로 이어질 것이다. 인셉션 랩스가 앞으로 어떤 새로운 혁신을 선보일지 귀추가 주목된다.