프린스턴대, 이전 계산 결과 이어서 토큰 생성하는 '순환 루프 변환기' 공개

프린스턴대학교의 연구팀이 기존의 대형 언어 모델(LLM)의 한계를 극복할 새로운 트랜스포머 아키텍처인 '순환 루프 변환기(Recurrent Looped Transformer, RLT)'를 발표했다. 이 혁신적인 아키텍처는 이전 토큰의 계산 결과를 다음 토큰 생성에 직접 연결하여, 계산의 연속성을 유지하는 방식을 채택하고 있다. 이는 AI 모델이 더욱 매끄럽고 일관된 응답을 생성할 수 있도록 도와주는 중요한 발전으로 평가된다.

순환 루프 변환기(RLT)의 작동 원리

RLT의 가장 큰 특징은 디코더의 상태를 초기화하지 않고도 프롬프트 입력에서 응답 생성까지 이어지는 계산의 흐름을 유지한다는 점이다. 기존의 LLM에서는 이전 토큰의 정보를 KV 캐시(KV memory)에 저장한 후 어텐션 메커니즘을 통해 재참조하는 구조를 가지고 있었다. 이 과정에서 복잡한 맥락 정보가 손실되는 경우가 종종 발생했으나, RLT는 이 문제를 해결하기 위해 최종 디코더 상태와 어텐션 정보를 다음 단계로 직접 전달한다.

RLT의 작동 과정에서 인코더는 입력 토큰을 병렬 처리하여 KV 메모리를 생성하고, 디코더는 현재 처리하는 토큰의 정보와 이전 단계의 결과를 결합하여 연산을 이어간다. 이때 슬라이딩 윈도우 어텐션(SWA)과 피드포워드 네트워크가 활용되며, 최근 토큰의 KV 정보는 일정 범위 내에서만 유지된다. 이를 통해 모델은 더욱 효율적으로 정보를 처리하게 된다.

'무한 깊이'의 구현과 장점

RLT의 또 다른 혁신은 '무한 깊이'라는 개념이다. 기존의 트랜스포머 모델은 각 토큰이 정해진 레이어만 거치도록 설계되었지만, RLT는 처리하는 토큰이 누적될수록 연산 경로가 길어지는 구조를 채택하였다. 예를 들어, 인코더와 디코더 각각 48개 레이어를 가진 모델에서, t개의 토큰을 처리하면 디코더의 연산 경로는 48t로 증가한다. 즉, 토큰 수가 늘어날수록 모델의 연산 깊이가 증가하게 되는 것이다. 이러한 구조는 단위 계산량을 늘리지 않으면서도 전체 계산 연쇄를 깊게 유지할 수 있는 장점을 제공한다.

연구진은 RLT의 하드웨어 활용도와 강화학습(RL) 방식을 고려하여, 인코더의 병렬 처리와 디코더의 순차 처리를 분리해 동시 처리 효율을 높였다. 이는 하드웨어 자원을 보다 효율적으로 사용할 수 있게 하며, 강화학습 시 매개변수 업데이트 과정에서도 이전 상태의 재사용 문제를 방지하는 데 기여한다.

앞으로의 전망

그럼에도 불구하고 RLT가 기존 LLM보다 더 뛰어난 성능을 보인다는 결과는 아직 도출되지 않았다. 연구진은 이번 발표가 새로운 아키텍처와 실행 방식을 제시한 설계 단계에 불과하다고 강조했다. 특히, 계산 과정이 깊어진다고 해서 AI의 추론 능력이 자동으로 향상되지는 않으며, 정보 손실의 가능성도 항상 존재한다는 점을 상기시켰다.

이러한 연구 결과는 AI와 자연어 처리 분야에서의 큰 발전을 예고하고 있으며, 향후 RLT가 실제 모델에서의 성능을 입증한다면, 대형 언어 모델의 새로운 패러다임을 제시하는 계기가 될 것으로 기대된다. AI 기술이 점점 더 진화하는 가운데, RLT는 그 흐름을 이끌어갈 중요한 연구로 주목받고 있다.