셀렉트스타, EMNLP서 AI 신뢰성 연구 5편 채택

셀렉트스타, EMNLP 2026에서 AI 신뢰성 연구 성과 인정받아

셀렉트스타가 최신 인공지능(AI) 신뢰성 및 안전성 연구 성과로 주목받고 있습니다. 한국의 AI 전문 기업인 셀렉트스타(대표 김세엽)는 최근 열린 글로벌 자연어처리(NLP) 학회인 EMNLP 2026에서 AI 관련 논문 5편이 채택되었다고 28일 발표했습니다. 이는 대규모 국제 학술 대회에서의 연구 성과를 인정받은 중요한 계기로, 셀렉트스타의 기술력이 세계적으로 인정받는 발판이 되고 있습니다.

EMNLP 2026에서의 성과

EMNLP 2026은 매년 전 세계의 자연어처리 분야에서 가장 주목받는 연구자들이 모이는 자리로, 올해는 1만 8000편의 논문이 제출되었습니다. 이 중에서 약 15.4%인 1,500편만이 채택되었으며, 셀렉트스타는 메인 컨퍼런스 1편, 파인딩스 1편, 그리고 워크숍 3편을 포함해 총 5편의 연구 결과를 발표하게 되었습니다. 특히 메인 컨퍼런스에 올라간 논문은 '정확도 일치와 불일치 관점에서의 인간-LLM 응답 정렬 진단: 대규모 집단 수준 분석'으로, AI가 정답을 맞히는 것뿐만 아니라 틀린 경우에도 사람과 유사한 오답을 선택하는지를 정량적으로 평가하는 프레임워크를 제시했습니다.

논문은 최혜지 연구원이 공동 주저자로 참여했으며, 이는 AI의 응답 신뢰성을 평가하는 새로운 기준을 마련하는 데 기여할 것으로 기대됩니다. 셀렉트스타는 이 연구 결과를 기반으로 19종의 AI 안전성 분류체계와 결합하여, 각 국가별 안전성 벤치마크로 확장할 계획이라고 밝혔습니다.

가드 모델의 과신 현상 분석

셀렉트스타의 연구 중 또 다른 흥미로운 성과는 파인딩스 논문 '기반 모델의 불확실성 상황에서 나타나는 가드 모델의 과신 현상 분석'입니다. 이 연구는 유해한 요청을 판별하기 위한 가드 모델이 불확실한 상황에서도 과도한 확신으로 오판할 수 있음을 밝히며, 이를 통해 AI 시스템의 안전성을 한층 더 강화할 수 있는 기반을 마련했습니다. 홍종현 연구원이 주저자로, 정민재 연구원이 공동저자, 그리고 김민우 AI 세이프티팀 리더가 교신저자로 참여했습니다.

이 연구는 소형언어모델(sLM) 기반의 가드레일 차단 정교화 기술로 확대될 예정이며, 이는 AI가 더욱 신뢰할 수 있는 방식으로 작동하도록 돕는 중요한 기술적 발전으로 평가받고 있습니다.

금융 분야와의 협력 연구

워크숍 부문에서도 셀렉트스타는 두 가지 중요한 연구 결과를 발표했습니다. 첫 번째는 금융보안원과 공동으로 진행한 '한국어 금융 LLM 입력 가드레일을 위한 회귀 성능 저하 인지형 통계적 정책 업데이트'이며, 두 번째는 '금융 피싱 탐지를 위한 연결 페이지 추적 및 관계 중심 DOM 요약 기법'입니다. 이러한 연구들은 금융 NLP 워크숍 'FinNLP'에서 채택되어, 금융 분야에서의 AI 안전성을 높이는 데 기여할 것으로 기대됩니다.

이외에도 이화여대와 협력하여 수행한 'LatAm-RT: 라틴아메리카 AI 안전성을 위한 문화 적응형 레드티밍' 연구는 'PANDORA' 워크숍에서 인정받았습니다.

결론: AI 신뢰성의 새로운 지평을 열다

셀렉트스타의 연구 성과는 AI 신뢰성 평가와 안전성 연구의 중요성을 국제 학술 무대에서 다시 한번 부각시키는 계기가 되었습니다. 김세엽 대표는 "AI 신뢰성 평가와 안전성 연구 역량을 국제 학술 무대에서 인정받았다는 데 의미가 있다"며, "연구 성과를 활용해 실제 환경에서 유용한 AI 신뢰성 검증 체계로 발전시키겠다"고 포부를 밝혔습니다. 이러한 노력이 결실을 맺을 경우, AI 기술의 안전성과 신뢰성이 한층 더 강화될 것으로 기대됩니다.