네이버, 실제 서비스에 ‘AI 안전성 체계’ 적용...세이프티 리포트 공개

네이버가 AI 서비스의 안전성을 더욱 강화하기 위해 자체 개발한 AI 안전성 체계 ‘ASF 2.0’을 실제 서비스에 적용하고, 그 과정과 사례를 담은 ‘AI 세이프티 프로그레스 리포트’를 공개했습니다. 이번 리포트는 AI 기술이 발전하는 가운데 사용자 안전과 신뢰성을 높이기 위한 네이버의 의지를 보여줍니다.

ASF 2.0의 핵심, AI 위험 관리 체계

‘ASF 2.0’은 네이버가 만든 AI 모델의 성능과 위험 수준, 그리고 사용자와 서비스 보호를 아우르는 포괄적인 안전성 관리 체계입니다. 이 시스템은 AI 서비스의 설계, 개발, 출시, 운영 등 전 과정에서 체계적인 안전성 관리를 목표로 하고 있습니다. 네이버는 이를 통해 AI 서비스가 제공하는 정보와 답변이 사전에 설정된 안전 기준을 넘지 않도록 관리할 계획입니다.

리포트에 따르면, 네이버는 AI 서비스에서 발생할 수 있는 다양한 위험을 법률적, 사회적, 산업적 사례를 바탕으로 분석하여 110개 세부 항목으로 나눈 ‘N-ARTI(NAVER AI Risk Taxonomy & Identification)’ 체계를 구축했습니다. 이를 통해 AI 서비스의 위험 요소를 사전 예방적으로 식별하고, 안전성을 높이는 데 기여할 것으로 기대됩니다.

안전성을 평가하는 N-ASET 도구

또한, 네이버는 AI 서비스의 응답을 평가하는 ‘N-ASET(NAVER AI Safety Evaluation Toolkit)’를 개발했습니다. 이 도구는 AI가 제공하는 답변을 ‘유해성’과 ‘사용성’이라는 두 가지 관점에서 종합적으로 평가합니다. 단순히 유해한 답변을 차단하는 데 그치지 않고, 사용자의 질문에 적절히 대응했는지까지 살펴보는 점이 특징입니다. 이를 통해 AI 서비스가 사용자에게 더 나은 경험을 제공할 수 있도록 지원합니다.

리포트에서는 AI 쇼핑 에이전트와 날씨 서비스와 같은 구체적인 사례들도 소개되었습니다. 네이버는 이러한 서비스에서 AI 활용 사실을 표시하고, 사용자에게 명확히 고지하는 등의 노력을 기울이고 있습니다. 이는 사용자와의 신뢰를 구축하는 데 큰 도움이 될 것입니다.

앞으로의 행보와 전망

네이버는 향후 한국과학기술원(KAIST), 서울대학교 인공지능 정책 이니셔티브(SAPI), 고려대학교 인공지능안전연구센터 등 국내외 학계 및 전문기관과의 협력을 더욱 확대할 계획입니다. 원성재 네이버 AI 세이프티 센터장은 “AI의 개발과 이용 전 과정에서 인간 중심의 가치를 최우선으로 두고, AI 서비스에서 발생할 수 있는 위험을 예방하고 완화할 수 있도록 ASF 2.0을 지속적으로 고도화하고 적용하겠다”고 밝혔습니다.

이번 리포트의 발표는 AI 기술이 우리의 일상에 깊숙이 자리 잡아가는 가운데, 안전성과 신뢰성을 확보하기 위한 네이버의 노력을 상징적으로 보여줍니다. AI 서비스가 점점 더 많아지는 현시점에서, 이러한 안전성 관리 체계의 필요성과 중요성은 날로 커져갈 것으로 보입니다. 네이버의 이 같은 행보가 AI 산업 전반에 긍정적인 영향을 미칠 것으로 기대됩니다.