래블업, 'OCP 코리아 테크 데이'서 AI 에이전트 보안·이기종 가속기 테스트베드 발표

AI 인프라 전문 기업 래블업이 '2026 OCP 코리아 테크 데이'에서 혁신적인 기술을 선보였다. 이번 행사에서 래블업은 기밀 컴퓨팅 기반의 AI 에이전트 보안 기술과 이기종 AI 가속기 테스트베드를 소개하며, AI 인프라 운영의 미래를 제시했다.

기밀 컴퓨팅으로 AI 보안 강화

래블업의 CTO 김준기는 기밀 컴퓨팅을 통해 AI 에이전트의 보안과 프라이버시를 향상시키는 방법에 대해 발표했다. 기밀 컴퓨팅이란 데이터가 처리되는 동안에도 그 내용을 보호할 수 있는 기술로, 이를 통해 민감한 정보와 개인 데이터를 안전하게 관리할 수 있다. 김 CTO는 "AI 인프라를 제공하는 어떤 사업자라도 우리의 기술을 통해 안전한 AI 에이전트를 배포할 수 있다"고 강조했다.

AI 에이전트는 다양한 산업에서 데이터 분석 및 의사 결정을 지원하는 중요한 역할을 하고 있지만, 보안 문제로 인해 사용에 제한이 있었습니다. 김 CTO는 이러한 기밀 AI 에이전트를 구현하기 위한 최신 기술 동향과 시스템 설계 문제를 다루며, 기업들이 이 기술을 통해 어떻게 데이터 보안을 강화할 수 있는지를 설명했다.

이기종 가속기 통합의 필요성

이어서 김유빈 소프트웨어 엔지니어는 오픈스택 기반의 사내 인프라와 퍼블릭 클라우드를 통합하여 이기종 AI 가속기 테스트베드를 구축한 사례를 발표했다. 현재 시장에서 이기종 AI 가속기의 사용이 급증하고 있지만, 이를 효과적으로 검증하고 운영하는 데 있어 여러 가지 도전 과제가 존재한다.

김 엔지니어는 "퍼블릭 클라우드와 폐쇄형 가상화, 베어메탈 환경에서는 각기 다른 난관이 존재한다"며, "따라서 이기종 하드웨어를 유연하게 검증할 수 있는 멀티 프로바이더 추상화 테스트베드를 구축하게 되었다"고 설명했다. 이를 통해 기업들은 다양한 AI 가속기를 단일 API로 통합 운영할 수 있으며, 더욱 효율적인 인프라 관리를 이룰 수 있다.

오픈소스 AI 인프라의 미래

이번 행사에서는 래블업이 오픈소스 AI 인프라 플랫폼인 백엔드닷에이아이(Backend.AI)를 중심으로 다양한 AI 인프라 솔루션도 선보였다. 전시 부스에서는 이기종 가속기 통합 운영과 GPU 분할 가상화 등 래블업의 핵심 기술을 직접 체험할 수 있는 기회를 제공했다.

김준기 CTO는 "특정 벤더에 의존하지 않는 개방형 표준과 협업이 AI 인프라의 지속 가능한 성장을 위해 필수적"이라고 강조하며, "이번 발표를 통해 래블업의 기술이 국내 데이터센터 생태계에 긍정적인 영향을 미칠 것을 기대한다"고 덧붙였다.

이번 OCP 코리아 테크 데이는 래블업의 혁신적인 기술을 통해 AI 인프라의 미래 방향성을 제시한 중요한 자리였다. 기밀 컴퓨팅과 이기종 AI 가속기 통합 운영은 앞으로 다양한 산업에서 AI 기술의 활용을 더욱 안전하고 효율적으로 만들어 줄 것으로 보인다.