KT, 한국 문화 반영한 ‘AI 안전성 벤치마크’ 공개

KT는 최근 고려대학교와 협력하여 한국 문화와 사회적 이슈를 반영한 멀티모달 대형언어모델(LLM) 벤치마크 'KSAFE-MM'을 발표했다. 이 벤치마크는 AI 모델의 안전성을 평가하는 새로운 기준을 제시하며, 국내의 특수한 상황과 문화적 맥락을 고려한 평가 방식을 도입하고 있다.

KSAFE-MM의 구성과 특징

KSAFE-MM은 두 가지 주요 구성 요소로 나뉘어 있다. 첫 번째는 'KSAFE-MM-G'로, 이는 글로벌 리스크를 한국의 문화적 맥락으로 변환하여 평가하는 부분이다. 두 번째는 'KSAFE-MM-C'로, 전세 사기나 독도 분쟁과 같은 특정한 국내 이슈들을 중심으로 한 평가를 제공한다. 특히 이 벤치마크는 총 1만4135개의 평가 샘플로 구성되어 있으며, 이는 한국어 멀티모달 안전성 평가 데이터셋 중 최대 규모를 자랑한다.

KT는 자동화된 범용 파이프라인을 통해 데이터 수집에서 배포까지를 아우르는 작업 프로세스를 구축했다. 이로 인해 특정 문화권의 전문가 없이도 현지 특성을 반영한 안전성 벤치마크를 신속하게 생성할 수 있는 표준 프레임워크가 마련되었다. 이러한 접근 방식은 AI 모델의 안전성을 높이는 동시에, 개발자들이 보다 적은 시간과 자원으로 모형을 검증할 수 있도록 돕는다.

글로벌 확장성 및 활용 가능성

KT와 고려대의 연구진은 동일한 파이프라인을 일본어에 적용한 실험(JSAFE-MM-C)을 통해, 이 시스템이 전 세계 다양한 문화권에서도 쉽게 적용될 수 있음을 입증했다. 이를 통해 KT는 한국을 넘어 글로벌 시장에서도 경쟁력을 갖출 수 있는 기반을 마련하게 된다. 이러한 글로벌 확장성은 다양한 문화적 특성을 가진 국가에서 AI 모델의 안전성을 검증하는 데 중요한 역할을 할 것으로 기대된다.

이번 KSAFE-MM 벤치마크는 단순한 데이터셋 이상의 의미를 지닌다. 실제 AI 서비스 환경에서의 안전성 검증, 레드팀 테스트, 가드레일 모델 평가 등 여러 목적으로 활용될 수 있으며, 이는 결국 AI 생태계의 전반적인 발전으로 이어질 가능성이 높다. 박재형 KT AX미래기술원 프론티어 AI 랩장은 "안전성 벤치마크의 공개는 생태계가 함께 발전할 수 있는 기반을 만드는 일"이라고 강조했다.

향후 전망

KSAFE-MM의 출시는 AI 분야에서 한국의 입지를 더욱 강화할 것으로 보인다. 국내외 AI 개발자들은 이를 통해 한국적 특성을 고려한 안전성 평가 모델을 손쉽게 활용할 수 있게 된다. 이는 한국 AI 산업의 경쟁력을 높이는 데 기여할 뿐 아니라, 글로벌 시장 진출을 위한 중요한 발판이 될 전망이다. 앞으로도 KT와 고려대의 지속적인 연구 개발과 협력이 기대되는 가운데, AI 기술이 보다 안전하고 효과적으로 발전해 나가길 바란다.