노타, AWS '트레이니움' 칩 도입 기업에 모델 최적화 서비스 지원

노타, AWS '트레이니움' 도입 기업에 AI 모델 최적화 서비스 제공

최근 노타(대표 채명수)가 아마존웹서비스(AWS)와 협력하여 AI 칩 환경에서 기업 고객의 AI 모델 성능을 극대화하는 서비스를 제공한다고 발표했다. 이번 발표는 7일에 이루어졌으며, 노타는 AWS의 공인 파트너로서 'AWS 트레이니움'과 '인퍼런시아' 칩을 도입하고자 하는 기업들에게 맞춤형 AI 모델 튜닝 서비스를 지원할 예정이다.

AI 모델 최적화의 필요성

AI 기술의 발전과 함께 기업들은 점점 더 많은 데이터를 활용하여 경쟁력을 높이고자 한다. 그러나 AI 모델의 성능을 극대화하는 것은 결코 쉬운 일이 아니다. 특히, 다양한 하드웨어 환경에서는 최적화를 위한 추가적인 작업이 필요하다. 노타는 이러한 문제를 해결하기 위해 자체 플랫폼인 '넷츠프레소'를 활용해 기업 고객이 AI 모델을 보다 효율적으로 관리하도록 지원하고 있다.

넷츠프레소는 AI 모델의 크기를 최대 90%까지 줄이면서도 성능을 유지할 수 있는 경량화 및 배포 자동화 플랫폼이다. 이를 통해 기업들은 다양한 하드웨어 환경에 맞춘 모델 최적화를 단일 워크플로우에서 쉽게 수행할 수 있게 된다. 특히, 노타는 이러한 경량화 기술을 통해 이미 320억 개 파라미터를 가진 대형 언어 모델(LLM)의 크기를 68% 줄이는 성과를 기록했다. 이 과정에서도 정확도 손실이 1% 미만으로 유지되는 성과를 거두었다.

서비스 진행 과정

노타의 AI 모델 튜닝 서비스는 세 가지 주요 단계로 구성되어 있다. 첫 번째 단계는 기술 검증(Proof of Concept, PoC) 및 진단으로, 기업의 기존 AI 모델이 어떤 문제를 가지고 있는지 분석하는 과정이다. 두 번째 단계는 모델 포팅 및 경량화로, 기존 모델을 새 환경에 맞춰 최적화하는 작업이다. 마지막으로 성능 튜닝 단계에서 AI 모델의 실제 성능을 개선하기 위한 다양한 조정을 진행한다. 이러한 과정을 통해 기업들은 인프라 비용을 효율적으로 관리하고 동시에 추론 성능을 개선할 수 있다.

채명수 대표는 “이번 서비스를 통해 AWS AI 칩 기반 인프라를 도입하려는 기업 고객에게 실질적인 비용 절감과 성능 향상을 동시에 제공하겠다”고 밝혔다. 이는 AI 모델을 활용하는 기업들에게 매우 중요한 요소로 작용할 전망이다.

향후 전망

노타의 이번 서비스는 AI 기술의 발전 속도에 발맞춰 기업들이 더욱 효율적으로 AI 모델을 활용할 수 있는 계기를 마련할 것으로 기대된다. AWS의 AI 칩 도입을 검토하는 기업들이 늘어나는 만큼, 노타의 최적화 서비스는 기업의 비용 효율성을 높이고 경쟁력을 강화하는 데 기여할 것으로 보인다. 노타의 경량화 기술이 앞으로 더 많은 기업에 적용되어 AI 모델의 성능과 실행 가능성을 동시에 향상시키는 데 큰 역할을 할 것으로 예상된다.