KT, 국산 반도체-모델-API 일체형 '소버린AI 어플라이언스' 출시

KT는 최근 국산 AI 반도체와 언어 모델을 통합한 혁신적인 솔루션인 ‘소버린 AI 어플라이언스’를 출시하며 기업 고객들의 관심을 모으고 있다. 이 제품은 국내 AI 기술의 자립성을 강조하며, 강화된 보안성과 함께 즉각적인 활용성을 제공한다.

국산 AI 기술의 집약체

KT가 출시한 ‘KT NPU LLM 스테이션’은 국내 AI 반도체 기업 리벨리온의 NPU ‘아톰-맥스(ATOM-MAX)’에 KT의 고유한 언어 모델인 ‘믿음 K 2.5 프로’를 탑재한 일체형 솔루션이다. 이 제품은 단순한 하드웨어나 소프트웨어가 아닌, 하드웨어와 소프트웨어가 통합된 완제품 형태로 제공된다. 기업들은 별도의 구축 과정 없이 설치 즉시 문서 기반 질의응답(RAG) 기능을 활용할 수 있어, AI 운영을 손쉽게 시작할 수 있다.

특히 주목할 점은 이 시스템이 보안에 최우선으로 설계되었다는 점이다. 모든 데이터와 AI 연산은 고객사의 내부에서만 처리되므로, 외부의 위협으로부터 안전하게 보호받을 수 있다. 이는 특히 공공, 국방, 제약, 제조, 금융 등 민감한 정보를 다루는 산업에서 큰 장점으로 작용할 것으로 예상된다.

사용의 용이성과 전력 효율성

KT NPU LLM 스테이션은 사용의 용이성뿐만 아니라 전력 효율성 또한 강조하고 있다. 이 제품은 동급 GPU 서버 대비 전력 소모가 적으면서도 뛰어난 성능을 보여준다. 업계 표준 API를 제공하여 기존의 AI 서비스와의 호환성도 뛰어나, 기업들이 기존 시스템에서 큰 변화 없이도 쉽게 전환할 수 있는 환경을 조성하고 있다.

KT는 향후 이 어플라이언스에 회의록 작성, 코딩 지원, 업무 자동화 에이전트인 ‘K-클로(K-Claw)’와 같은 다양한 AI 기능을 순차적으로 추가할 계획이다. 또한 전문 개발사와 협력하여 고객 맞춤형 솔루션을 제공하는 방향으로 사업을 확장할 예정이다.

AI 인프라의 새로운 기준을 제시하다

KT의 소버린 AI 어플라이언스는 앞으로 피지컬 AI를 위한 엣지 데이터센터로 활용될 전망이다. 이를 통해 저전력 및 저지연 AI 인프라 구축에 나설 계획이며, 이는 기업들이 AI를 보다 효과적으로 활용하는 데 기여할 것이다.

이진형 KT AX사업본부장은 “KT NPU LLM 스테이션은 데이터 주권을 지키면서 AI 전환을 시작하려는 기업과 기관에 가장 현실적인 선택지가 될 것”이라고 자신감을 드러냈다.

이러한 기술의 발전은 국내 AI 생태계의 성장뿐만 아니라, 기업들이 자율적으로 AI를 활용할 수 있는 환경을 조성하는 데 중요한 역할을 할 것으로 보인다. 앞으로 이 솔루션이 다양한 산업에서 어떻게 활용될지, 그리고 한국의 AI 기술이 세계 시장에서 어떤 위치를 차지하게 될지 주목된다.