구글, 온디바이스 ‘임베딩젬마 2’ 공개…텍스트·이미지·음성 통합 처리

구글이 최근 발표한 ‘임베딩젬마 2(EmbeddingGemma 2)’는 사용자가 스마트폰이나 PC와 같은 개인 기기에서 직접 실행할 수 있는 혁신적인 온디바이스 AI 기술을 선보였습니다. 이 모델은 텍스트, 이미지, 비디오, 오디오 등 다양한 데이터 유형을 하나의 벡터 공간에서 통합 처리할 수 있는 멀티모달 기능을 갖추고 있어, AI 기술의 활용 가능성을 크게 확장하고 있습니다.

온디바이스 AI의 진화

임베딩젬마 2는 구글의 젬마 4 아키텍처를 기반으로 한 경량 멀티모달 임베딩 모델입니다. 이 모델은 대규모 클라우드 서버에 의존하지 않고도 다양한 형태의 데이터를 신속하게 처리할 수 있는 것이 특징입니다. 한 번의 입력으로 최대 29장의 이미지, 58개의 비디오 프레임, 5.5분 분량의 오디오를 동시에 처리할 수 있는 능력은 이전 모델 대비 4배 향상된 성능을 자랑합니다. 이러한 기능은 사용자들이 텍스트 검색으로 특정 이미지를 찾거나, 음성 메모를 통해 관련 비디오를 검색하는 등 새로운 검색 방식을 경험할 수 있게 합니다.

구글은 이 모델이 단순한 답변 생성 기능을 넘어, 검색, 추천, 검색 증강 생성(RAG) 등 다양한 AI 서비스의 기초 엔진으로 활용될 수 있음을 강조했습니다. 특히, 임베딩젬마 2는 7억 4000만 개의 매개변수를 가지고 있으며, 각 기능에 따라 필요한 자원만 선택해 사용할 수 있는 모듈형 구조로 설계되었습니다. 이러한 접근 방식은 사용자에게 더 나은 효율성을 제공하며, 특정 작업에 필요한 리소스를 최소화하는 데 기여합니다.

향상된 성능과 효율성

구글은 임베딩젬마 2가 코드 및 음성 검색 성능에서도 큰 향상을 이뤘다고 밝혔습니다. 코드 검색 성능에 대한 MTEB 벤치마크에서 78.68점을 기록하며, 전작 대비 9.92점 상승했습니다. 이러한 개선은 로컬 코드베이스 색인 및 의미 기반 코드 검색, 코딩 에이전트와 같은 다양한 응용 분야에서 강력한 성능을 발휘할 것으로 기대됩니다.

또한, 구글은 저장 공간과 메모리 사용 효율성을 개선하기 위해 ‘마트료시카 표현 학습(MRL)’을 적용했습니다. 이를 통해 기본 768차원 벡터를 512, 256, 128차원으로 줄일 수 있으며, 최대 6배까지 저장 공간과 메모리 사용량을 줄일 수 있다고 설명했습니다. 예를 들어 구글 픽셀 11 프로에서 텍스트 전용 모델은 약 191MB의 활성 RAM만 사용하며, 전체 멀티모달 모델은 약 567MB로 작동합니다. 이처럼 효율성을 강조한 설계는 온디바이스 성능을 한층 더 강화합니다.

구글은 “온디바이스에서 임베딩을 생성함으로써 데이터의 개인정보를 보호하고, 지연 시간을 줄이며, 완전히 오프라인으로 작동하는 시스템을 구축할 수 있다”고 말했습니다. 이러한 특성은 데이터 보안이 중요한 현대에서 더욱 부각될 것입니다.

미래를 위한 기초

임베딩젬마 2의 출시는 구글이 AI 기술의 경계를 넓히고 있음을 시사합니다. 다양한 형태의 데이터를 처리할 수 있는 능력은 개인 사용자뿐만 아니라 개발자에게도 새로운 가능성을 열어줍니다. 허깅페이스와 캐글을 통해 모델 가중치를 쉽게 다운로드하고, MediaPipe 및 LiteRT와 같은 온디바이스 배포 도구를 지원하는 점은 개발자 커뮤니티와의 협력을 더욱 강화할 것입니다.

구글의 최신 모델은 앞으로 다양한 산업 분야에서 온디바이스 AI의 활용성을 높이는 데 기여할 것으로 기대됩니다. 특히 데이터 보안과 사용자 경험을 동시에 고려한 혁신적인 기술로, 개인화된 서비스가 더욱 정교해질 것입니다. 구글이 선보인 임베딩젬마 2는 이러한 변화의 시작점이 될 것으로 보입니다.