코히어, 에이전트 비용·보안 통제 플랫폼 '노스 2' 출시...알레프 알파 인수 후 첫 행보

캐나다의 AI 전문 기업 코히어(Cohere)가 최근 AI 에이전트의 비용 관리 및 보안 통제를 획기적으로 강화한 새로운 플랫폼 '노스 2(North 2)'를 공개했습니다. 이번 발표는 지난달 독일의 AI 스타트업 알레프 알파(Aleph Alpha)를 인수한 이후 처음으로 선보이는 대규모 업데이트로, 기업들이 AI를 도입할 때 직면하는 여러 난제를 해결하려는 의지가 담겨 있습니다.

AI 에이전트의 비용과 보안, 어떻게 해결할까?

AI 에이전트를 기업 환경에 도입할 때 가장 큰 고민 중 하나는 예기치 않은 비용 증가입니다. 기존 AI 시스템에서는 복잡한 연동 작업을 수행하는 과정에서 사용되는 토큰의 소모량이 급증하는 경우가 많아 예산 관리가 어렵습니다. 코히어는 이러한 문제를 해결하기 위해 '노스 관리자(North Admin)' 기능을 도입했습니다. 이 기능은 관리자가 사용자별 및 에이전트별 요청 속도, 토큰 소비 한도를 설정할 수 있도록 하여, 지정된 예산 한도에 도달하기 전에 시스템이 스스로 동작을 멈출 수 있게 합니다. 이를 통해 기업들은 보다 안정적으로 AI 에이전트를 운영할 수 있을 것으로 기대됩니다.

또한, 노스 2는 에이전트가 이전 작업 내역과 조직 내 지식을 지속적으로 기억할 수 있는 '메모리(Memory)' 및 '라이브러리(Library)' 기능을 포함하고 있습니다. 이 두 기능은 기업 내부 데이터의 일관성을 높여 환각 현상이나 문맥 단절을 최소화하는 데 큰 역할을 합니다. 나아가, 자주 사용하는 반복 로직은 '스킬(Skills)' 형태로 모듈화되어 조직 전체에서 공유할 수 있도록 설계되어, 효율적인 작업 환경을 조성합니다.

유럽 시장을 겨냥한 전략

이번 플랫폼 업데이트는 코히어의 유럽 시장 공략과도 밀접한 관계가 있습니다. 알레프 알파를 인수함으로써 코히어는 유럽 정부 및 공공기관의 요구를 충족시킬 수 있는 가스펠 표준과 높은 수준의 규제 준수 역량을 갖추게 되었습니다. 노스 2는 온프레미스는 물론, 버추얼 프라이빗 클라우드(VPC) 및 에어갭(Air-gapped) 환경까지 지원하여 유럽의 엄격한 데이터 주권 요구를 충족할 수 있도록 고도화되었습니다. 이와 함께 SOC 2 Type 2, ISO 27001, ISO 42001 등 글로벌 보안 인증을 동시에 만족시키는 방침을 세우고 있습니다.

코히어는 또한 다양한 AI 모델 및 하네스와의 상호 호환성을 대폭 확대하여 특정 공급업체에 대한 종속 현상을 방지했습니다. 이는 앤트로픽, 오픈AI와 같은 대형 테크 기업들과의 경쟁에서 우위를 점하려는 전략으로, 유럽과 글로벌 기업 고객을 동시에 확보하기 위한 노력이 엿보입니다.

향후 전망

코히어의 노스 2 출시로 인해 기업들은 AI 에이전트를 보다 안전하고 비용 효율적으로 운영할 수 있는 솔루션을 갖추게 되었습니다. 폴 테시에르 코히어 제품 담당 부사장은 "노스 2는 세밀한 예산 통제와 엔터프라이즈급 보안, 장기 메모리를 결합하여 실질적인 에이전트 운용 환경을 제공할 것"이라고 강조하며, 향후 기업들이 AI 기술을 통해 더욱 혁신적인 성과를 거둘 수 있을 것이라는 자신감을 드러냈습니다. 코히어의 행보가 AI 시장에 어떤 새로운 변화를 가져올지 기대됩니다.