카카오, AI안전연구소와 AI 안전성 평가 도구 개발

카카오가 인공지능안전연구소와 손잡고 AI 안전성 평가 도구를 개발하기로 했다. 이번 협력은 AI 기술의 신뢰성을 높이고, 보다 안전한 AI 생태계를 조성하기 위해 추진된다. 카카오는 28일 인공지능안전연구소와의 양해각서(MOU) 체결을 통해 공동 평가 체계 구축을 본격화한다고 밝혔다.

AI 안전성 평가의 필요성

최근 인공지능 기술의 발전은 우리의 삶에 많은 편리함을 가져다주었지만, 동시에 그 안전성과 신뢰성에 대한 우려도 커지고 있다. 특히, AI 모델이 다양한 분야에서 활용되면서 예기치 않은 오류나 편향된 결과를 초래할 가능성이 커지고 있다. 이러한 이유로 AI의 안전성을 평가하고 보장하는 것이 점점 더 중요해지고 있다. 카카오는 이를 인식하고, 인공지능안전연구소와 협력하여 AI의 안전성을 체계적으로 평가할 수 있는 도구를 개발하기로 했다.

MOU 체결 및 협력 방향

김세웅 카카오 AI 시너지 성과리더와 김명주 인공지능안전연구소 소장은 MOU 체결 후 기념 사진을 촬영하며 이번 협력의 의미를 강조했다. 카카오는 지난해에 이어 인공지능안전연구소와 함께 자체 언어모델인 ‘카나나-1.5-9.8B’를 대상으로 안전성 평가를 진행한 바 있다. 당시 평가 결과, 카카오의 모델은 유사한 규모의 해외 모델에 비해 높은 수준의 안전성을 자랑하는 것으로 확인되었다.

이제 양사는 이번 MOU를 통해 AI 모델과 에이전트를 대상으로 더 객관적이고 체계적인 안전성 평가를 위한 인프라를 구축할 예정이다. 카카오는 자체 AI 모델과 평가 수행에 필요한 인프라를 제공하며, 인공지능안전연구소는 평가 방법론을 발전시키고 실행을 담당할 계획이다. 평가 결과는 양측이 함께 검토하고, 공개 범위를 협의하여 AI 안전성 평가 도구의 개발에 박차를 가할 예정이다.

향후 계획 및 기대 효과

두 기관은 언어 모델의 배포 전후에 대한 안전성 평가를 실시하며, 향후 멀티모달 언어모델과 AI 에이전트에 대한 평가 범위를 확대할 예정이다. 이를 통해 카카오는 더욱 신뢰할 수 있는 AI 모델을 시장에 선보일 수 있을 것으로 기대하고 있다. 김세웅 리더는 “이번 협력으로 카카오 AI 모델이 더욱 객관적이고 엄격한 안전성 검증 체계를 갖추게 되었다”고 밝히며, 향후 AI 기술의 신뢰성을 높이는 데 기여할 것이라고 말했다.

AI 기술이 우리 생활의 여러 측면에 깊이 스며들고 있는 지금, 카카오와 인공지능안전연구소의 협력은 안전하고 신뢰할 수 있는 AI 생태계 조성을 위한 중요한 첫걸음으로 볼 수 있다. 앞으로 이들이 개발할 안전성 평가 도구가 AI 기술의 발전과 사회적 수용에 긍정적인 영향을 미칠 것으로 기대된다.