아레나, 2700억 투자 유치…AI 안전성 평가 '정렬 지수' 도입

사용자 평가 기반 AI 모델 평가 플랫폼 아레나(Arena)가 최근 2억 달러(약 2700억 원)의 시리즈 B 투자를 유치하며 기업가치가 31억 달러(약 4조 원)에 이르는 성과를 거두었다. 이번 투자 유치는 아레나가 AI 안전성 평가의 새로운 기준인 '정렬 지수(Alignment Index)' 분야로 사업을 확장하는 계기를 마련해줄 것으로 기대된다.

아레나의 성장 배경

아레나는 사용자가 여러 AI 모델에 동일한 질문을 던지고 그에 대한 응답 품질을 직접 비교할 수 있는 플랫폼으로, 최근 몇 년간 빠른 성장을 이어왔다. 캘리포니아대학교 버클리 캠퍼스의 스카이 컴퓨팅 연구소에서 시작된 '챗봇 아레나' 프로젝트를 통해, 아레나는 AI 모델의 성능을 평가하는 중요한 도구로 자리 잡았다. 2024년 9월에는 LMSYS 조직에서 독립해 LM아레나로 출범한 후, 최근 아레나라는 이름으로 다시 태어났다.

이번 시리즈 B 투자 라운드는 라이트스피드 벤처 파트너스와 코슬라 벤처스가 공동 주도했으며, 세일즈포스 벤처스, 델 테크놀로지스 캐피털 등 여러 유명 투자 기관이 참여했다. 이러한 투자 유치는 아레나가 지난해 1억5000만 달러(약 2000억 원) 규모의 시리즈 A 투자를 유치한 뒤 10개월 만에 기업 가치가 거의 두 배로 상승했음을 보여준다. 특히, 아레나는 지난 6월 연간 반복 매출(ARR)이 1억 달러(약 1300억 원)에 도달했다는 소식을 전하며 그 성장세를 더욱 확고히 했다.

정렬 지수의 도입과 AI 안전성

아레나는 이번 투자금을 활용해 단순한 성능 비교를 넘어 AI의 안전성과 신뢰성을 평가하는 '정렬 지수'를 도입할 계획이다. 이는 AI 모델이 사용자의 의도에 부합하며 안전하게 작업을 수행하는지를 평가하는 지표다. 정렬 지수는 AI 모델이 코딩과 같은 복잡한 작업을 수행할 때 얼마나 잘 사용자의 지시를 따르는지를 측정하는 데 중점을 둔다. 이를 통해 허가받지 않은 행동을 하거나, 잘못된 정보를 제공하는 등 위험 요소를 사전에 파악할 수 있다.

아레나는 또한 '에이전트 아레나(Agent Arena)'라는 플랫폼을 통해 사용자들이 여러 단계의 복잡한 작업을 수행하도록 도와주고, 이 과정에서 수집된 대화 데이터를 활용해 정렬 지수를 산출할 예정이다. 초기 평가 대상에는 20개가 넘는 AI 모델이 포함되어 있으며, 오픈AI의 'GPT-6.1 솔'이 1위, 앤트로픽의 '클로드 오퍼스 5.5'가 2위를 기록했다. 향후 아레나는 이 데이터를 바탕으로 안전성 관련 지표를 더욱 고도화해 평가 범위를 넓힐 계획이다.

향후 전망

아레나는 AI의 안전성과 신뢰성을 중시하는 시대에 발맞춰, 정렬 지수를 통해 AI 평가의 새로운 패러다임을 제시하고 있다. AI 기술이 발전하는 속도에 비해 평가 기술이 뒤처져 있는 현실에서, 사용자에게 안전하고 신뢰할 수 있는 AI 모델을 제공하기 위한 중립적인 제3자의 필요성이 더욱 강조되고 있다. 아레나의 이번 투자 유치는 이러한 요구에 부응하며 AI 생태계에서 중요한 역할을 할 것으로 기대된다. AI 안전성에 대한 관심이 높아지는 가운데, 아레나의 혁신적인 접근 방식이 향후 AI 평가 시장을 어떻게 변화시킬지 주목된다.