KAIST 교원창업기업 파네시아, 메타와 ‘차세대 AI 데이터센터 구조’ 제시

한국과학기술원(KAIST)과 팹리스 전문 기업 파네시아가 메타 연구진과 협력하여 인공지능(AI) 데이터센터의 새로운 구조를 제시했습니다. 이 연구 결과는 최근 네이처 리뷰 일렉트리컬 엔지니어링(NREE)에 게재되어 주목을 받고 있습니다. 기존 데이터센터의 한계를 극복하고, AI 연산의 효율성을 극대화할 수 있는 혁신적 접근 방식이 담겨 있습니다.

AI 데이터센터의 새로운 패러다임

기존의 데이터센터는 여러 대의 컴퓨터가 네트워크를 통해 협업하는 형태로 구성되어 있습니다. 하지만 KAIST의 정명수 교수와 파네시아의 연구팀은 데이터센터를 하나의 거대한 컴퓨터처럼 작동시키는 새로운 구조를 개발했습니다. 이들은 CPU, AI 가속기, 메모리를 긴밀하게 연결하여 서버 간의 경계를 허물고, 모든 부품이 원활하게 상호작용할 수 있도록 설계했습니다.

특히, 이번 연구에서는 CXL(Compute Express Link) 기술을 활용하여 CPU와 메모리, 가속기를 데이터센터 전체에 걸쳐 연결하는 방안을 제시했습니다. 이로 인해 최대 960개의 가속기를 하나의 연결 영역에 통합할 수 있게 되며, 이는 현재 엔비디아의 NV링크 기반 랙보다 무려 13배 큰 규모입니다. 이러한 구조는 데이터 이동 시간을 크게 단축시켜, 기존 마이크로초 수준에서 수백 나노초 수준으로 개선하였습니다. AI 데이터센터의 성능에 있어 이러한 작은 지연이 상당한 차이를 만들 수 있다는 점은 매우 중요한 요소입니다.

유연성과 효율성의 극대화

이번 연구의 또 다른 장점은 데이터센터의 유연한 운영이 가능하다는 것입니다. CPU, 가속기, 메모리를 각각 자원으로 간주하여 문제가 발생한 부품만 교체할 수 있으며, 남는 연산 및 메모리 자원을 필요에 따라 재배치할 수 있습니다. 이는 데이터센터의 운영 효율성을 크게 향상시킬 것으로 기대됩니다. 정명수 교수는 “AI의 규모가 커질수록 단순한 성능 향상뿐만 아니라, 수많은 가속기와 메모리를 얼마나 빠르고 효율적으로 연결하느냐가 중요하다”고 강조했습니다.

이러한 유연한 자원 관리 방식은 향후 AI 데이터센터의 운영 모델에 큰 변화를 가져올 것으로 보입니다. 특히, 클라우드 서비스의 발전과 더불어 AI 연산의 수요가 폭발적으로 증가하고 있는 상황에서, 새로운 데이터센터 구조는 여러 기업에게 경쟁력을 제공할 수 있는 기회를 마련할 것입니다.

미래를 향한 발걸음

KAIST와 파네시아의 연구는 AI 기술의 발전과 함께 데이터센터 산업의 전환점을 마련할 수 있는 가능성을 내포하고 있습니다. 메타와의 협력을 통해 제안된 차세대 데이터센터 구조는 더 많은 AI 연산을 효율적으로 처리할 수 있는 기반을 제공할 것입니다. AI가 점점 더 많은 산업에 영향을 미치고 있는 현시점에서, 이러한 혁신적인 연구 결과는 향후 AI 기반 기술의 발전에 중요한 역할을 할 것으로 예상됩니다. 앞으로도 이러한 연구가 지속되어 AI 데이터센터의 성능이 더욱 향상되기를 기대합니다.