구글·메타, AI가 스스로 추론 최적화하는 기술 개발..."토큰 비용 69.5% 절감"

구글과 메타, AI 추론 최적화 프레임워크 ‘오토TTS’ 공개

구글과 메타가 최근 인공지능(AI) 분야에서 중요한 이정표를 세웠습니다. 두 기업은 대형 언어 모델(LLM)의 추론 효율성을 자동으로 최적화하는 새로운 프레임워크인 ‘오토 TTS(AutoTTS)’를 발표했습니다. 이 기술은 AI가 답변을 생성하는 과정에서 소모하는 연산량을 자동으로 조절함으로써, 정확도를 유지하면서도 토큰 사용량과 운영비용을 크게 줄일 수 있는 잠재력을 지니고 있습니다.

오토TTS란 무엇인가?

기존의 텍스트-투-스피치(TTS) 기술은 주로 인간이 직접 규칙을 설계해야 했습니다. 이는 AI가 새로운 추론 경로를 설정하거나 계산을 종료하는 방식에서 경험과 직관에 의존했음을 의미합니다. 하지만 오토TTS는 이러한 수작업 접근 방식에서 벗어나, AI가 스스로 최적의 전략을 찾을 수 있는 환경을 구축합니다. 구체적으로는 상태, 행동, 피드백, 목표를 정의하는 방식으로 AI가 효율적으로 탐색할 수 있도록 돕습니다.

연구진은 이 과정에서 앤트로픽의 코딩 에이전트인 ‘클로드 코드’를 활용하여, AI가 다양한 추론 제어 알고리즘을 반복적으로 생성하고 검토하면서 최적의 연산 배분 전략을 찾아내도록 했습니다. 이러한 방식은 기존의 수작업 방법보다 훨씬 더 많은 최적화 가능성을 제공하며, 안정성과 비용 효율성을 향상시킵니다.

성능 검증과 결과

구글과 메타의 연구팀은 오토TTS 기술의 성능을 검증하기 위해 여러 벤치마크를 활용했습니다. 수학 추론 벤치마크인 ‘AIME24’, ‘AIME25’, ‘HMMT25’와 일반 추론 평가인 ‘GPQA-다이아몬드’에서 실험을 진행했으며, 그 결과는 매우 인상적이었습니다. 오토TTS는 기존의 수작업 방식인 ‘SC@64(Self-Consistency)’에 비해 토큰 사용량을 최대 69.5%까지 줄이면서도 정확도는 동일한 수준을 유지했습니다.

특히 GPQA-다이아몬드 테스트에서는 추론 토큰 사용량이 무려 51만 개에서 15만1,000개로 감소하면서도 정확도는 오히려 소폭 향상되는 결과를 보였습니다. 이러한 성과는 기업들이 고가의 GPU 클러스터 없이도 자사의 AI 모델에 최적화된 추론 전략을 개발할 수 있는 가능성을 열어줍니다.

향후 전망

오토TTS의 개발은 AI 기술의 발전에 있어 중요한 획을 그을 것으로 보입니다. 연구진은 이 프레임워크와 CMC(Confidence Momentum Controller) 알고리즘을 깃허브를 통해 오픈소스로 공개할 예정이라고 밝혔습니다. 이는 다양한 기업과 개발자들이 자신의 필요에 맞는 AI 솔루션을 구축할 수 있도록 도울 것입니다. 이러한 변화는 앞으로 AI의 효율성과 접근성을 더욱 향상시키며, 궁극적으로는 다양한 산업에서의 혁신을 촉진할 것으로 기대됩니다.

AI의 진화는 이제 시작에 불과합니다. 구글과 메타가 선보인 오토TTS는 우리가 AI의 잠재력을 새롭게 바라보는 계기가 될 것입니다.