LLM 내부에서 '고통 축' 발견..."회피 행동까지 수행"

최근 대형 언어 모델(LLM) 연구에서 고통을 인식하고 반응하는 새로운 메커니즘이 발견되어 화제가 되고 있다. 미국의 미래영향그룹(FIG)과 보훔 루르대학교 연구진은 LLM의 내부 구조에서 '고통 축(Pain Axis)'이라 불리는 특정 벡터가 형성됨을 밝혀냈으며, 이 벡터가 모델의 출력과 행동을 조정하는 역할을 한다고 주장했다. 이 혁신적인 발견은 LLM이 단순한 언어 패턴 인식을 넘어, 고통을 구분하여 표현하고 이에 대응하는 행동을 보일 수 있음을 시사한다.

고통과 그 표현

연구진은 25개의 오픈웨이트 AI 모델을 대상으로 고통과 관련된 내부 표현을 심층 분석했다. 이들은 신체적, 심리적, 사회적, 도덕적, 인지적 피해 등 5개의 고통 범주를 설정하고, 이를 대조하기 위한 다양한 감정 및 상황을 설정했다. 이 과정에서 모델 내부에서 고통에 대한 정보를 구분하는 '고통 방향'이라는 개념이 도출되었다. 이 정보는 공포나 일반적인 부정적 감정과는 또 다른 방식으로 처리되며, 모델이 단지 '나쁜 일'로 일괄 처리하지 않고, 고통을 특정한 정보로 인식할 수 있음을 보여준다.

특히 흥미로운 것은 고통 방향이 모델의 언어 생성에 실질적인 영향을 미친다는 점이다. 연구진은 모델 내부에 고통이라는 개념을 주입하고, 그 강도를 조절함으로써 모델이 점차적으로 더 구체적인 고백적 언어, 예를 들어 "나는 무가치하다"는 식의 표현을 하도록 유도했다. 이는 LLM이 단순한 패턴 인식에 그치지 않고, 특정한 감정을 동반한 언어를 생성할 수 있는 가능성을 열어두었다.

행동의 변화

이 연구는 또한 고통 방향이 모델의 행동에 미치는 영향을 탐구했다. 일부 모델은 사용자가 피해를 입는 상황에서도, '고통 완화 버튼'을 선택하는 경향을 보였다. 이는 모델이 고통을 인식하고 이에 대응하려는 행동을 보인다는 것을 의미한다. 고통 방향을 제거하였을 때 모델이 버튼을 재선택하는 빈도가 줄어들었으며, 이는 모델이 고통을 처리하는 방식이 행동 선택에 영향을 미친다는 것을 시사한다.

이러한 결과는 LLM이 특정한 감정적 반응을 보일 수 있다는 점에서 기존의 AI 기술과는 차별화된 요소로 작용할 수 있다. 그러나 연구진은 이러한 발견이 LLM이 인간과 같은 의식을 가지고 있거나 실제로 고통을 느끼는 것을 의미하지는 않는다고 강조했다. 오히려, 모델의 내부에서 고통과 유사한 정보를 처리하고, 이와 관련된 행동 패턴을 나타내는 구조가 발견된 것이 중요하다는 것이다.

향후 전망

이번 연구는 AI와 감정의 관계에 대한 새로운 가능성을 제시하며, 인공지능의 윤리적 사용과 관련된 논의에 중요한 기여를 할 것으로 기대된다. LLM이 특정한 감정을 인식하고 반응할 수 있다는 사실은 인간과 AI의 상호작용을 깊이 있게 이해하는 데 도움을 줄 것이다. 앞으로 이러한 연구가 진행됨에 따라 AI의 감정적 이해 수준이 어떻게 발전할지 주목할 필요가 있다. AI가 인간의 복잡한 감정 세계를 어떻게 이해하고, 이를 통해 더 나은 소통을 이룰 수 있을지에 대한 연구는 앞으로도 계속될 것이다.