셀렉트스타, 'AI 레드티밍' 기술로 글로벌 학회 'ACL 2026' 논문 채택

셀렉트스타, AI 레드티밍 기술로 세계 무대에 나서다

최근 셀렉트스타가 자사의 독자적인 레드티밍 기술인 '스타티밍(STAR-Teaming)'으로 자연어처리(NLP) 분야의 권위 있는 국제 학회인 'ACL 2026'에 논문이 채택되었다는 소식이 전해졌다. 이는 인공지능(AI) 모델의 안전성을 확보하기 위한 중요한 이정표로, AI 기술의 발전과 함께 더욱 중요해지는 AI 안전성 문제를 해결하기 위한 새로운 접근 방식이 주목받고 있다.

혁신적인 레드티밍 접근

레드티밍(Redteaming) 기술은 AI 시스템의 취약점을 찾아내기 위해 고안된 전략으로, 의도적으로 유해한 요청을 시도하여 시스템의 안전성을 검증하는 방법이다. 셀렉트스타의 연구진은 통계 물리학에 기반한 수학적 모델링을 활용해 '전략-응답 멀티플렉스 네트워크'라는 새로운 기술을 제안했다. 이는 공격 전략과 AI 모델의 응답 간의 상관관계를 확률적으로 분석하여 최적의 공격 전략을 선택하는 방식이다.

기존의 레드티밍 방식이 과거의 공격 성공 사례에 의존했던 것과 달리, 셀렉트스타의 기술은 다양한 공격 전략을 선제적으로 적용할 수 있다는 점에서 차별화된다. 이를 통해 AI 모델의 취약점을 보다 체계적이고 효율적으로 발견할 수 있는 가능성을 열었다.

뛰어난 성과와 검증

셀렉트스타의 스타티밍 기술은 클로드, 챗GPT, 큐원 등 주요 대형언어모델(LLM) 17종을 대상으로 검증을 실시했다. 그 결과, 표준 벤치마크인 HarmBench에서 평균 공격 성공률(ASR) 74.5%를 기록하며 높은 성과를 거두었다. 특히, AI 안전장치를 우회하는 자동화 프롬프트 공격 기법인 AutoDAN-Turbo의 경우, 기존 방식보다 13.5% 포인트 높은 성공률을 기록해 주목을 받고 있다. 이는 더 적은 시도로도 높은 공격 성공률을 달성할 수 있다는 점에서 큰 의의를 갖는다.

이 기술은 셀렉트스타의 AI 신뢰성 검증 솔루션인 '다투모 플랫폼'에 이미 탑재되어 활용되고 있으며, 정부 주도의 독자 AI 파운데이션 모델 프로젝트의 안전성 검증과 품질 평가에도 적극적으로 적용되고 있다.

AI 안전성의 미래

정민재 셀렉트스타 AI 세이프티 엔지니어는 "이번 연구는 AI를 안전하게 만들기 위해 취약점을 더 체계적으로 발견하는 구조를 제시하고자 했다"며, "앞으로도 AI 모델이 산업 현장에서 안전하게 활용될 수 있도록 기술 고도화를 이어가겠다"고 밝혔다.

AI 기술이 산업 전반에 걸쳐 빠르게 확산되고 있는 가운데, 이번 연구는 AI 안전성 확보의 필요성을 더욱 부각시킨다. AI 모델의 안전성을 점검하는 것이 단순한 과제가 아닌, 앞으로의 기술 발전과 사회적 신뢰를 위한 필수 요소로 자리 잡을 전망이다. 셀렉트스타의 스타티밍 기술이 이러한 흐름 속에서 어떤 기여를 할 수 있을지 귀추가 주목된다.