에이아이웍스, 에이전트 신뢰성 검증 솔루션 ‘에이전트리거’ 출시

AI 에이전트의 신뢰성을 높이는 새로운 솔루션, ‘에이전트리거’가 에이아이웍스에 의해 공식 출시됐다. 이 솔루션은 AI 데이터 전문 기업 에이아이웍스(대표 윤석원)가 30일 발표한 내용으로, 기존 AI 에이전트 평가 방식의 한계를 극복하고, 서비스 환경에 최적화된 평가를 제공하는 것을 목표로 하고 있다.

기존 평가 방식의 한계

에이전트리거는 한국인정기구(KOLAS) 공인시험 기관과의 협력을 통해 설계된 평가 솔루션이다. 기존의 AI 에이전트 평가는 일반적으로 범용 벤치마크 데이터셋을 기반으로 하여, 특정 도메인이나 서비스 환경의 요구를 충분히 반영하지 못하는 ‘검증 범위 불일치’와 같은 문제점이 있었다. 특히, 문화적 차이나 서비스 목표를 반영하지 못하는 ‘평가기준 불일치’와 같은 한계로 인해, 실제 서비스에서 AI가 어떻게 대응하는지를 제대로 평가하기 어려웠다. 이러한 문제점들은 AI가 사용자와의 상호작용에서 신뢰를 구축하는 데 중요한 요소임에도 불구하고, 기존 평가체계에서는 간과되어왔다.

에이전트리거의 주요 기능

에이전트리거는 이러한 문제를 해결하기 위해 3가지 핵심 기능을 제공한다. 첫째, 대형언어모델(LLM)의 응답 품질과 평가 신뢰도를 정량적으로 검증한다. 이를 통해 실제 응답과 예상 응답을 비교하고, 정확성 및 맥락 연관성을 측정하여 평가의 신뢰도를 높인다. 둘째, 실제 사용자 시나리오에 기반한 안전성 검증이 가능하다. 에이아이웍스가 구축한 공통 안전성 코어 평가 데이터와 지표를 활용하여, 서비스 환경에서 발생할 수 있는 다양한 상황을 체계적으로 검증한다. 마지막으로 KOLAS 공인 프레임워크를 기반으로 한 컴플라이언스 대응 지원을 통해 AI 기본법 및 금융 분야의 컴플라이언스 요구에 맞춘 평가 자료를 제공한다.

이외에도 에이전트리거는 시나리오 중심의 도메인 특화 테스트 데이터 자동 생성, 자동 메트릭 평가와 인적 평가 통합 관리, 고객 맞춤형 메트릭 구성(G-Eval), 그리고 리포트 자동 생성 기능 등으로 구성되어 있어, 기업들이 AI 에이전트를 보다 효과적으로 검증하고 도입할 수 있도록 돕는다.

향후 전망과 의미

이미 국내 대형 IT 서비스 기업의 AI 에이전트 검증 프로젝트에 활용된 에이전트리거는, 밤빗(BAMBIT)와의 협업을 통해 영유아 스킨케어 안전 및 개인화 추천 플랫폼의 안정성을 검증한 바 있다. 이를 통해 기업들은 AI 에이전트 도입 전 사전 테스트를 통해 리스크를 점검하고, 자동화된 검증 파이프라인을 통해 시간과 비용을 절감할 수 있다.

윤석원 대표는 “AI 에이전트가 실제 업무를 수행하는 시대에 접어들면서, 신뢰성 검증은 필수가 되었다”라고 강조하며, 에이아이웍스의 품질 DNA를 기반으로 AI 에이전트 신뢰성의 새로운 기준을 제시하겠다는 포부를 밝혔다. 이러한 에이전트리거의 출시는 앞으로 AI 에이전트의 신뢰성 향상에 중요한 역할을 할 것으로 기대된다. AI 기술이 더욱 발전해나가는 가운데, 신뢰할 수 있는 AI 환경을 구축하는 것이 더욱 중요해질 것이다.