구글 “LLM 환각 원인은 지식 부족 아닌 '기억 인출' 실패”

대형언어모델(LLM)의 환각 현상, '기억 인출 실패'가 주원인

최근 구글 리서치와 이스라엘 테크니온 대학교 연구진이 발표한 논문에서 대형언어모델(LLM)의 환각 현상, 즉 사실과 다른 답변이 나오는 이유가 지식 부족이 아닌 '기억 인출 실패'에 있다는 주장이 제기됐다. 이는 AI 모델의 성능 향상에 있어 새로운 패러다임 전환이 필요하다는 점을 시사한다.

모델의 기억 인출 메커니즘

LLM이 생성하는 답변이 사실과 다를 때, 많은 사용자들은 이를 '지식이 없다'고 단순히 결론짓곤 한다. 그러나 이번 연구에서는 최신 AI 모델들이 실질적으로 필요한 정보를 매개변수에 저장하고 있음에도 불구하고, 특정 질문에 대한 답변을 제대로 회상하지 못하는 현상을 발견했다. 연구진은 LLM이 지식을 저장하는 방식과 이를 꺼내는 방식이 다르다는 점에 주목하며, 이 문제를 '빈 선반(Empty Shelves)'과 '잃어버린 열쇠(Lost Keys)'라는 두 가지 개념으로 설명했다.

'빈 선반'은 지식이 아예 존재하지 않는 상태를, '잃어버린 열쇠'는 이미 저장된 정보에 접근하지 못하는 경우를 지칭한다. 연구 결과에 따르면, 최신 모델인 'GPT-5'와 '제미나이 3 프로'는 테스트한 사실의 95% 이상을 인코딩하고 있음에도 불구하고, 별도의 추론 없이 저장된 정보의 25%에서 33%를 회상하지 못하는 것으로 나타났다. 이는 단순히 모델의 크기를 늘리는 것이 문제를 해결하지 못한다는 것을 의미한다.

추론 과정의 중요성

연구진은 2150개의 위키피디아 사실을 기반으로 한 '위키프로파일(WikiProfile)' 벤치마크를 통해 다양한 질문에 대한 모델의 응답을 분석하였다. 그 결과, 지식은 단순히 '있다'와 '없다'로 나뉘지 않고, 다섯 가지 유형으로 나눌 수 있다는 것을 발견했다. 이 중에서도 '생각을 통한 회상(Recall with thinking)'이 추가적인 추론 단계를 통해 저장된 정보를 회수하는 데 효과적이라는 점이 강조되었다.

연구에 따르면, 모델에 '생각(Thinking)' 단계를 도입하면 회상하지 못했던 지식의 40%에서 65%를 복구할 수 있었다. 이는 AI가 단순히 새로운 정보를 생성하는 것이 아니라 이미 존재하는 지식을 효과적으로 꺼내는 데 도움을 줄 수 있음을 의미한다.

향후 AI 모델 개발의 방향

이번 연구는 기업들이 AI 시스템을 구축할 때 중요하게 고려해야 할 점을 제시한다. AI의 환각 문제를 해결하기 위해 무작정 모델의 크기를 늘리거나 외부 데이터베이스를 검색하는 시스템(RAG)을 도입하는 것보다는, 우선적으로 오류의 원인을 정확히 진단하는 것이 중요하다.

이러한 접근 방식은 불필요한 지연 시간과 비용을 줄이는 데 기여할 수 있다. 연구진은 답변 생성 후 스스로 검증하는 '생성 후 검증(generate-then-verify)' 구조를 도입할 것을 권장하며, 이를 통해 RAG 없이도 환각 현상을 크게 줄일 수 있을 것이라고 강조했다.

결론적으로, 이번 연구는 LLM의 성능 향상과 환각 문제 해결을 위한 새로운 방향을 제시하며, AI 기술의 발전에 중요한 기여를 할 것으로 기대된다. AI 모델이 더 똑똑하게 '생각'할 수 있도록 도와주는 것이야말로, 앞으로의 AI 혁신을 이끄는 핵심이 될 것이다.