KAIST, 에이전트 전력 비용 규명..."챗봇보다 136배 에너지 사용"

한국과학기술원(KAIST) 연구진이 최근 발표한 연구 결과는 AI 에이전트의 전력 소비와 계산 비용에 대한 새로운 통찰을 제공하고 있다. 이번 연구는 AI 서비스가 발전함에 따라 데이터센터와 전력 인프라의 효율성이 얼마나 중요한지를 강조하고 있으며, AI 기술의 미래 방향성을 제시하고 있다.

AI 에이전트의 전력 소비 분석

KAIST 전기및전자공학부의 유민수 석좌교수 연구팀은 AI 에이전트가 실제 서비스 환경에서 얼마나 많은 전력과 계산 자원을 사용하는지를 체계적으로 분석했다. 연구팀은 AI 에이전트를 단순한 소프트웨어 프로그램이 아닌, 데이터센터의 서버와 GPU가 지속적으로 처리해야 하는 복잡한 작업으로 정의하고, 그 결과를 도출했다.

연구에 따르면, AI 에이전트는 기존의 생성 AI보다 질문 한 건당 최대 136.5배 많은 에너지를 소모하는 것으로 나타났다. 특히, AI 에이전트는 반복적으로 여러 차례 언어 모델(LLM)을 호출하는 과정에서 응답 시간이 크게 증가하며, 전체 실행 시간의 상당 부분을 대기하는데 소모하는 것으로 분석되었다. 이로 인해 고가의 GPU 자원이 비효율적으로 사용되는 문제가 발생하고 있다.

데이터센터의 전력 수요 증가

KAIST 연구팀은 AI 에이전트가 사용하는 전력량을 데이터센터 규모에서 분석한 결과, 700억 개의 매개변수를 가진 LLM을 사용하는 AI 에이전트는 질문 처리에 평균 348.41 와트시(Wh)의 전력을 소비하는 것으로 나타났다. 이 수치는 현재 AI 서비스 환경에서 예상되는 하루 137억 건의 요청을 감안했을 때, 데이터센터의 전력 수요가 약 198.9 기가와트(GW)에 이를 것으로 추정되고 있다. 이는 세계 각국이 추진 중인 수 GW 규모의 AI 데이터센터를 훨씬 초과하는 수준이며, 미국 전체 평균 전력 소비량의 약 절반에 해당하는 양이다.

이러한 결과는 AI 기술이 발전할수록 그에 따른 전력 소비 문제를 간과할 수 없음을 일깨워준다. 유 석좌교수는 “AI의 효율성을 높이는 것이 향후 AI 시대의 경쟁력으로 자리잡을 것”이라며, AI 에이전트의 보편화가 이루어지는 시대에는 AI 모델과 전력 인프라를 통합적으로 설계하여 최적화해야 한다고 강조했다.

지속 가능한 AI 인프라의 필요성

이번 연구는 단순히 AI 기술의 발전을 넘어, AI 서비스를 운영하기 위해 필요한 에너지 소비를 정량적으로 제시한 첫 사례로 평가된다. 연구팀은 AI 반도체와 데이터센터, 전력 인프라 간의 공동 설계(Co-design)가 필수 전략이 될 것이라 전망하고 있다. 이는 AI 서비스를 보다 효율적이고 경제적으로 운영할 수 있는 방법이 될 것이며, 지속 가능한 AI 인프라 구축을 위한 연구와 투자가 필수적임을 의미한다.

KAIST의 연구는 AI 기술이 단순히 더 똑똑해지는 것이 아니라, 더 효율적으로 발전해야 한다는 중요한 메시지를 던지고 있다. 앞으로 AI 에이전트가 일반화됨에 따라, 이와 관련된 기술적 접근 방식이 더욱 중요해질 것으로 보인다. AI의 발전과 함께 전력 효율성을 고려한 설계가 이루어질 때, 우리는 보다 지속 가능한 AI 시대를迎게 될 것이다.