클라우드네트웍스, Kong과 파트너십 체결...AI 트래픽 통합 관리 AI 게이트웨이 국내 공급

클라우드네트웍스가 글로벌 API 및 AI 연결성 기업인 콩(Kong)과의 파트너십을 통해 '콩 AI 게이트웨이'를 국내에 공급하기 시작했습니다. 이 파트너십은 인공지능(AI) 호출에 대한 관리와 거버넌스의 필요성이 증가하는 가운데, 기업들이 AI 운영 체계를 보다 효율적으로 구축할 수 있도록 지원하기 위해 마련되었습니다.

AI 트래픽의 통합 관리

콩 AI 게이트웨이는 기업의 AI 트래픽을 단일 관문에서 통합 관리할 수 있도록 설계된 혁신적인 솔루션입니다. 특히, 기존 API 게이트웨이의 개념을 확장해 대규모 언어 모델(LLM)과 생성형 AI API의 호출을 중앙에서 제어하고 보안 및 관측 기능을 강화했습니다. 이를 통해 기업은 AI 호출을 보다 효율적으로 관리할 수 있으며, 다양한 LLM 공급자의 호출을 하나의 표준 인터페이스로 통합하여 운영할 수 있는 이점을 제공합니다.

이 게이트웨이는 인증, 인가, 사용량 제한, 감사 로그 등 기존 API에서 사용하던 보안 정책을 AI 호출에도 동일하게 적용할 수 있게 설계되었습니다. 또한 PII(개인 식별 정보) 제거, 프롬프트 통제 및 의미 기반 캐싱과 같은 AI 특화 기능도 제공하여, 기업들이 보안 및 정책을 개별적으로 구현할 필요 없이 공통 운영 계층에서 표준화할 수 있도록 지원합니다.

고객 맞춤형 아키텍처 설계

클라우드네트웍스는 콩 AI 게이트웨이의 국내 공급과 함께 고객 환경에 최적화된 아키텍처 설계, 구축, 연계 및 기술 지원을 제공할 계획입니다. 특히, AI 모델의 성능뿐만 아니라 호출 경로에 대한 통제 및 비용 관리, 감사 체계를 동시에 고려해야 하는 현대의 기업 환경에서, 이 게이트웨이는 필수적인 역할을 할 것으로 기대됩니다.

정흥균 클라우드네트웍스 대표는 "생성 AI가 실제 업무에 적용되면서 기업들은 모델 성능뿐만 아니라 AI 호출을 어떻게 통제하고 관측할지 고민하고 있다"며, "클라우드네트웍스는 AI 운영 환경 구축 경험을 바탕으로 콩 AI 게이트웨이를 통해 국내 기업의 AI 거버넌스 체계를 지원하겠다"고 밝혔습니다.

향후 전망

이번 파트너십은 기업들이 AI를 보다 안전하고 효율적으로 활용할 수 있는 기반을 마련하는 중요한 계기가 될 것으로 보입니다. AI 기술의 발전과 함께 거버넌스와 관리의 필요성이 중요해지는 가운데, 콩 AI 게이트웨이는 국내 기업이 AI 트래픽을 체계적으로 관리하고 운영할 수 있는 혁신적인 솔루션으로 자리잡을 것입니다. 클라우드네트웍스의 전문성과 콩의 기술력이 결합된 이번 협력은 향후 더욱 많은 기업들이 AI를 활용하는 데 있어 든든한 파트너가 될 것입니다.