서울대 “모델마다 반응하는 ‘가치관’ 달라…투명한 AI 개발 프레임워크 개발”

서울대학교의 도재영 전기정보공학부 교수 연구팀이 인간의 가치관을 바탕으로 대형언어모델(LLM)을 정렬하는 혁신적인 연구를 발표했다. 이 연구는 '밸류플로우(VALUEFLOW)'라는 통합 프레임워크로, 국제 머신러닝 학회(ICML) 2026에서 구두 발표 논문으로 채택되며 그 중요성을 인정받았다. 이 연구는 AI 기술이 단순한 데이터 처리 이상의 역할을 맡고 있음을 입증하는 중요한 이정표가 될 것으로 기대된다.

가치관 정렬의 필요성

AI 기술은 우리의 일상에 깊숙이 침투해 있으며, 다양한 사회적 맥락에서 신뢰성 있게 활용되어야 한다. 하지만 기존의 AI 정렬 연구는 주로 사용자의 선호나 평가에 의존해 왔다. 이는 특정 상황에서 사람들의 선호가 쉽게 변할 수 있다는 점에서 한계를 지닌다. 이에 도재영 교수 연구팀은 '밸류플로우'라는 새로운 프레임워크를 통해 인간의 기본적인 가치관을 반영하고, 이를 통해 LLM의 응답을 조정할 수 있는 방안을 제시했다.

이 프레임워크는 인간 가치관의 표현, 측정, 조정이라는 세 가지 단계를 포함한다. 첫 번째 단계에서는 계층적 가치 임베딩 모델인 HiVES를 활용해 여러 가치 이론을 하나의 구조화된 공간에 통합한다. 둘째, 대규모 가치 강도 데이터베이스인 VIDB를 통해 가치의 강도를 객관적으로 측정한다. 마지막으로, LLM이 특정 가치관을 반영하도록 유도하고 그 조정 가능성을 분석하는 단계로 구성되어 있다.

다양한 모델의 가치 조정 능력 비교

연구팀은 이 프레임워크를 이용해 GPT-4.1, 제미나이, 클로드 등 주요 LLM 10종을 대상으로 4개 가치 이론과 32개 가치 범주에 대한 조정 가능성을 평가했다. 그 결과, 각 모델마다 가치 조정 능력에서 뚜렷한 차이가 나타났다. 예를 들어, 일부 모델은 특정 가치를 긍정적으로 강화하는 데 반응하는 반면, 부정적인 방향의 조정에는 저항하는 경향을 보였다. 이러한 결과는 LLM의 가치 정렬이 단순한 명령 수행 문제가 아니라, 모델 내부의 안전성과 정렬 특성과 밀접하게 연결되어 있음을 보여준다.

연구팀은 또한 여러 가치를 동시에 조정할 경우, 유사한 가치들은 강화되지만 충돌하는 가치들은 서로의 표현을 약화시키는 경향이 있음을 발견했다. 이는 AI가 복잡한 다원적 가치관을 이해하고 조정할 수 있는 능력을 갖추어야 한다는 점을 시사한다.

투명하고 책임감 있는 AI 개발의 초석

'밸류플로우'는 개인화 AI, 문화적 맥락에 따른 AI 정렬, 정책 민감형 AI 배포 등 다양한 분야에서 활용될 수 있는 가능성을 지니고 있다. 또한, AI가 어떤 가치관을 표현하고 어떤 가치관에는 저항하는지를 분석할 수 있는 기반을 제공함으로써, 보다 투명하고 책임감 있는 AI 개발에 기여할 것으로 기대된다.

도재영 교수는 "앞으로 다양한 개인과 사회의 가치가 공존할 수 있는 책임 있는 AI 정렬 기술로 발전시켜 나가겠다"며 연구의 의의를 강조했다. 이는 단순히 기술적 진보에 그치지 않고, AI가 사회에 미치는 영향을 깊이 고민하는 하나의 방향성을 제시하는 중요한 연구로 평가받고 있다. AI가 인간의 가치와 조화를 이루며 발전할 수 있는 길이 열리기를 기대해본다.