셀렉트스타 "AI 검증, 일회성 시험 아냐"...전 주기 상시 평가 체계 강조

셀렉트스타, AI 검증의 새로운 패러다임 제시

AI 기본법 시행 이후, 기업과 공공기관이 직면한 다양한 도전과제들이 점차 가시화되고 있는 가운데, 셀렉트스타가 이와 관련된 중요한 세미나를 개최했다. 17일 서울 포스코타워 역삼에서 열린 이번 행사에서는 AI의 책임 있는 운영과 거버넌스, 그리고 기술적 검증 체계의 필요성에 대한 심도 있는 논의가 이어졌다. 특히, 셀렉트스타는 AI 검증을 단순한 일회성 시험으로 끝내서는 안 된다는 점을 강조하며, 지속적이고 체계적인 평가의 중요성을 역설했다.

지속적인 검증 체계 구축의 필요성

이번 세미나에서 이현택 셀렉트스타 글로벌 사업개발 팀장은 기업이 수립한 정책과 관리 체계가 실제 서비스에서 어떻게 작동하는지를 확인할 수 있는 기술적 검증 체계의 필요성을 강조했다. 그는 이 과정에서 다섯 가지 주요 기술적 점검 영역인 ▲투명성 점검 ▲안전성 검증 ▲고영향·위험 분류 지원 ▲사업자 책무 이행·증빙 ▲영향평가 지원을 제시했다. 이 팀장은 특히 AI의 위험은 모델, 데이터, 그리고 서비스 환경이 변화함에 따라 달라질 수 있기 때문에, 이를 반영한 지속적인 평가가 필수적이라고 말했다.

이와 함께, AI 서비스의 기획 단계에서부터 활용 목적과 위험 수준을 파악하고, 평가 기준을 수립해야 한다는 점도 강조됐다. 개발 과정 중에는 평가 데이터를 구축하고 모델을 검증하는 과정을 통해 서비스의 신뢰성을 높여야 하며, 운영 이후에도 모델과 데이터, 서비스 변경에 따라 지속적으로 평가하는 체계가 마련되어야 한다고 덧붙였다.

패널 토론으로 이어진 현장 논의

행사 후반부에는 실제 AI 서비스 운영 상황을 가정한 패널토론이 진행됐다. 다양한 업계 전문가들이 모여 AI 서비스의 거버넌스와 검증 체계에 대한 의견을 나누었고, 이 과정에서 각 기업이 직면하고 있는 현실적인 문제들과 해결책에 대한 심도 있는 논의가 이루어졌다. 각 패널들은 AI의 안전성과 신뢰성이 무엇보다 중요하다는 데 입을 모았다.

특히, 김세엽 셀렉트스타 대표는 "AI 기술의 발전은 무궁무진하지만, 그만큼 책임감도 커진다"며 "기업들이 AI를 활용하는 과정에서 지속적으로 검증하고 평가하는 시스템을 갖추는 것이 결국 기업의 신뢰성에도 직결된다"고 강조했다.

향후 AI 검증 체계의 방향성

셀렉트스타의 이번 세미나는 AI 기술이 기업의 핵심 요소로 자리 잡으면서, 그에 따른 책임과 거버넌스 체계가 얼마나 중요한지를 다시 한 번 일깨워주는 계기가 되었다. AI 검증은 단순한 규제 준수 차원을 넘어, 기업의 신뢰성을 구축하는 중요한 과정으로 인식되어야 한다. 이처럼 지속적인 검증과 평가 체계가 정착된다면, AI 기술이 더욱 안전하고 신뢰할 수 있는 방향으로 발전할 수 있을 것이다.

앞으로 기업과 공공기관이 AI 기술을 도입하는 과정에서 이러한 체계를 적극적으로 수립하고 운영함으로써, 건강한 AI 생태계를 만들어 나가는 데 기여하길 기대해 본다.