"LLM보다 하네스가 핵심"…엔비디아 AVO, 장기 에이전트 가능성 입증

최근 엔비디아가 자사의 범용 AI 에이전트 기술인 '에이전틱 베리에이션 오퍼레이터(AVO)'의 성능을 입증하며 AI의 새로운 가능성을 열었다. 이번 성과의 핵심은 단순히 대형 언어 모델(LLM)의 성능을 넘어서, AI 에이전트를 지속적으로 제어하고 관리하는 '하네스(Harness)' 시스템에 있다. 엔비디아는 AVO가 낯선 환경에서 스스로 문제를 해결하는 능력을 가지고 있다는 점을 강조하며, 향후 AI 기술의 발전 방향에 대한 기대감을 높였다.

하네스 시스템의 중요성

엔비디아의 AVO는 단순히 질문에 대한 답변을 제공하는 것을 넘어, 오랜 시간 동안 스스로 계획을 세우고 실행하는 능력을 갖추었다. AI가 성과를 내기 위해서는 두뇌 역할을 하는 모델뿐만 아니라, 이를 관리하고 지원하는 시스템이 필수적이다. 하네스는 이러한 관리 시스템으로, AI가 이전의 작업 기록이나 실패 원인을 저장하고 이를 바탕으로 다음 행동을 결정하는 데 도움을 준다. 이러한 구조 덕분에 AVO는 장기적인 목표를 설정하고 완수하는 데 있어 뛰어난 성과를 보여줄 수 있었다.

이번 성과는 21일(현지시간) 발표된 'ARC-AGI-3' 공개 벤치마크에서 AVO가 25개 환경의 183개 레벨을 완주하며 상대적 행동 효율성(RHAE) 점수 100%를 기록한 사례로 구체화되었다. 이 벤치마크는 AI에게 사전 규칙이나 목표 없이 낯선 게임 환경에서 상태 변화를 통해 스스로 규칙을 추론하도록 요구하는 평가 도구로, AI의 적응력이 얼마나 뛰어난지를 측정하는 데 적합하다.

향상된 GPU 최적화 성능

AVO는 특히 GPU 연산의 핵심인 어텐션 커널을 최적화하는 과정에서도 그 성능을 입증하였다. 엔비디아는 AVO에게 7일간 지속적으로 어텐션 커널 최적화를 맡겼고, 그 결과 40개의 최적화 코드를 직접 구현해 내는 성과를 거두었다. 이 과정에서 AVO는 기존의 최적화 소프트웨어인 'cuDNN'과 '플래시어텐션-4'에 비해 각각 3.5% 및 10.5% 빠른 연산 성능을 달성하였다. 또한, AVO는 30분 만에 해당 코드를 메모리 사용량을 줄이는 그룹드 쿼리 어텐션(GQA) 구조로 확장 적용하기도 했다.

이러한 성과는 AI 기술이 다양한 분야에서 활용될 수 있는 가능성을 여는 중요한 전환점으로 작용할 것으로 기대된다. 특히 AI가 스스로 학습하고 기억하며, 실패의 경험을 다음 작업에 반영하는 능력은 지금까지의 AI 기술 발전과는 차별화된 접근 방식임을 보여준다.

미래의 AI 에이전트

엔비디아는 이번 AVO의 성과를 바탕으로 AI 기술의 범위를 확장할 계획이다. AVO 시스템은 코딩과 GPU 최적화에서 시작했지만, 향후 다양한 장기 자율 작업 영역으로 나아갈 가능성이 크다. AI의 범용성이 단순한 지식의 양에 국한되지 않고, 경험과 피드백을 장기간 축적하고 반영할 수 있는 하네스 시스템에서 비롯된다는 점은 AI 연구자들에게도 중요한 시사점을 제공한다.

앞으로 AI 기술은 더욱 복잡한 문제를 해결하고 다양한 분야에서 역할을 할 것으로 기대된다. 엔비디아의 AVO가 그 시작점이 될 것이며, AI의 진화가 어떻게 이루어질지 주목할 만하다.