셀렉트스타, AI 안전성 연구 3편 'ICML 2026' 채택

셀렉트스타, ICML 2026에서 AI 안전성 연구 논문 3편 채택

최근 인공지능(AI) 기술의 발전과 함께 AI의 안전성에 대한 관심이 높아지고 있는 가운데, 셀렉트스타(대표 김세엽)가 국제머신러닝학회(ICML 2026) 워크샵에 연구 논문 3편을 게재한다고 6일 발표했다. 이번 연구는 대형언어모델(LLM)의 안전성을 더욱 강화하기 위한 다양한 접근 방식을 제안하고 있으며, AI의 실제 활용 환경과 문화적 맥락, 변화하는 위험 요소를 반영한 것이 특징이다.

AI 안전성 평가를 위한 혁신적 접근

셀렉트스타의 첫 번째 논문은 '루브릭 기반 안전성 판정 모델의 신뢰성 향상을 위한 커리큘럼 학습'으로, AI 모델이 금융권 같은 새로운 도메인에서도 안정적으로 작동할 수 있도록 하는 방안을 제시한다. 연구진은 '커리큘럼 러닝' 기법을 적용하여, AI 모델이 초기 학습 단계에서부터 점진적으로 복잡한 내용을 학습하도록 유도함으로써, 다양한 환경에서의 일관된 성능을 확보할 수 있도록 했다. 이를 통해 폐쇄망 환경에서도 빠르고 정확하게 AI 안전성을 검증할 수 있는 가능성을 열었다.

문화적 맥락을 반영한 레드팀핑 연구

두 번째 논문에서는 '동아시아·동남아시아 언어권의 문화 적응형 레드티밍'을 주제로, 기존의 AI 평가 방식이 가진 한계를 분석했다. 셀렉트스타는 이를 해결하기 위해 문화 맞춤형 레드티밍 벤치마크인 'CAGE' 프레임워크를 개발하여 아시아 언어권에 적용할 수 있는 가능성을 탐구하였다. 이 연구는 각 문화와 언어의 특성을 이해하고 반영한 AI 안전성 평가가 얼마나 중요한지를 다시 한 번 일깨워준다.

한국 문화에 최적화된 LLM 데이터 구축

마지막으로, '한국 문화 정합성을 위한 LLM 정렬 데이터 구축 및 학습'이라는 제목의 논문은 AI가 한국 문화에 적합한 데이터셋을 활용해 안정적인 응답을 할 수 있도록 하는 방법을 설명한다. 이 연구에서는 AI가 단순히 데이터를 모사하는 것이 아니라, 그 근거를 스스로 추론할 수 있도록 학습시키는 방식을 채택하여 AI 성능 저하의 한계를 극복하고자 했다.

셀렉트스타는 이러한 연구 성과를 바탕으로 인공지능 안전 연구소(AISI)가 주최하는 '제3차 AI 안전 정책 연구 세미나'에도 참여할 예정이다. 김세엽 대표는 "ACL, ICLR에 이어 ICML 워크샵에서도 연구 성과를 인정받았다"며, "신뢰할 수 있는 AI 생태계 구축을 위해 계속해서 노력하겠다"고 밝혔다.

이번 연구는 AI 안전성이 단순한 기술적 문제를 넘어, 문화적, 사회적 맥락에서도 중요한 이슈임을 시사한다. 셀렉트스타의 지속적인 연구와 개발이 한국뿐만 아니라 글로벌 AI 생태계에 긍정적인 영향을 미칠 것이라는 전망이 기대된다. AI의 안전성을 높이기 위한 이러한 노력이 앞으로도 계속될 것으로 보이며, 다양한 분야에서 AI를 활용하는 데 있어 더욱 신뢰할 수 있는 환경이 조성될 것으로 기대된다.