엔비디아, AI 추론 칩 d-매트릭스에 투자 계획…GPU 중심 생태계 확장

엔비디아, AI 추론 칩 d-매트릭스에 투자로 생태계 확장

최근 엔비디아가 AI 추론 칩 전문 스타트업 d-매트릭스(d-Matrix)에 대한 투자를 계획하고 있다는 소식이 전해졌다. 이 결정은 엔비디아가 GPU 중심의 AI 생태계를 더욱 확장하려는 의도로 풀이되며, 경쟁 관계에 있는 업체와의 협력을 통해 운영 효율성을 극대화하려는 전략으로 해석된다.

d-매트릭스와의 협력 배경

d-매트릭스는 AI 추론 작업에 최적화된 칩을 개발하는 스타트업으로, 설립 초기부터 엔비디아와의 경쟁을 목표로 삼고 있었다. 그러나 최근에는 두 회사가 협력 관계를 모색하고 있다. 7월에 발표된 협력 계획에 따르면, d-매트릭스의 칩과 엔비디아의 GPU가 함께 작동하여 AI 추론의 다양한 작업을 분담하는 방식이다. 이 접근법은 성능 향상과 비용 절감을 동시에 노릴 수 있는 장점을 지니고 있다.

엔비디아는 d-매트릭스와 함께 투기적 디코딩(speculative decoding) 기법을 활용하여 AI 추론 속도를 높이는 방안을 모색하고 있다. 이 기술은 소형 모델의 예측 작업을 d-매트릭스 칩이 담당하고, 엔비디아 GPU가 대형 모델의 결과를 검증하는 구조로, 각 칩의 강점을 살려 효율적으로 작업을 나누는 방식이다.

협력을 통한 생태계 확대

엔비디아의 이러한 전략은 이번이 처음이 아니다. 최근 1년간 인텔 및 마벨과 같은 기존 반도체 업체에 수십억 달러를 투자하며 협력 관계를 넓혀왔다. 아마존 또한 엔비디아 GPU와 자사의 AI 칩인 트레이니움을 함께 활용하는 방안을 제안했으며, AI 칩 스타트업 삼바노바 시스템즈도 유사한 방식으로 엔비디아 GPU와 자사 칩을 연결해 AI 모델을 공동 실행하는 모습을 선보였다.

즉, 엔비디아는 경쟁사 칩을 단순히 배제하는 것이 아니라, 자사 GPU와 호환되도록 연결하여 전체 시스템의 활용 범위를 넓히려는 의지를 보이고 있다. 이는 AI 추론 시장에서 다양한 칩을 통합해 효율을 높이려는 현재의 추세에 부합하며, 엔비디아의 생태계 영향력을 더욱 강화할 것으로 기대된다.

향후 전망

AI 추론 시장은 이제 단순한 GPU 성능 경쟁을 넘어, 서로 다른 칩 간의 연결성과 효율성을 중시하는 시대로 접어들고 있다. 다만 이종 칩 간의 연결 방식이 실제로 대규모 데이터센터에서 얼마나 효율적으로 작동할지는 아직 미지수이다. 엔비디아와 d-매트릭스의 협력이 향후 대규모로 이루어질지 여부 또한 불확실하다.

d-매트릭스는 이미 2025년까지 기업가치 20억 달러 목표로 2억7500만 달러의 투자 유치를 완료했고, 향후 엔비디아의 투자 계획이 이와 관련이 있는지 여부가 주목된다. AI 추론 기술의 발전이 급속도로 이루어지고 있는 만큼, 이들 간의 협력이 가져올 변화와 발전에 귀추가 주목된다.