오픈AI, 자체 개발 '추론 칩' 공개… "9개월 만에 테이프아웃"

오픈AI, 9개월 만에 자체 개발한 '추론 칩' 공개

인공지능(AI) 기술의 발전이 가속화되고 있는 가운데, 오픈AI가 브로드컴과 협력하여 맞춤형 추론 프로세서를 공개했다. 이 칩은 최신 대형언어모델(LLM)과 에이전트형 AI 워크로드에 최적화된 설계를 자랑하며, 단 9개월 만에 테이프아웃에 도달한 점에서 업계의 주목을 받고 있다.

할라피뇨, AI 추론을 위한 혁신적 설계

오픈AI의 새 칩, '할라피뇨(Jalapeño)'는 기존의 AI 훈련용 프로세서와는 다른 방향으로 설계되었다. 오픈AI는 이 칩이 단순히 기존의 하드웨어를 재활용한 것이 아니라, 처음부터 AI 추론만을 위해 완벽하게 최적화된 구조를 가지고 있다고 강조했다. 특히, 대규모 추론에서 발생하는 데이터 이동의 비용, 컴퓨팅과 메모리 자원 간의 불균형, 네트워크 효율성 등의 문제를 근본적으로 해결하기 위한 다양한 기술적 접근이 사용되었다.

할라피뇨는 저렴한 일반 DRAM 대신 대용량 컴퓨팅 칩렛과 고대역폭 메모리(HBM)를 결합하여 높은 처리량과 낮은 지연 시간을 동시에 달성할 수 있도록 설계되었다. 이를 통해 오픈AI는 높은 성능을 제공하면서도 전력 소모와 비용 측면에서 효율성을 극대화하고자 했다.

혁신적인 속도와 효율성

반도체 설계 과정은 통상 1년 반에서 2년이 걸리는 반면, 오픈AI는 할라피뇨를 단 9개월 만에 엔지니어링 샘플 단계로 진입시켰다. 이른 개발 주기는 오픈AI의 AI 모델을 활용한 최적화 과정과 브로드컴의 기존 자산을 광범위하게 재사용한 것이 주효했음을 보여준다. 현재 이 칩은 목표 클럭 속도와 전력 기준을 충족하며 안정적으로 작동하고 있으며, 이미 차세대 머신러닝 워크로드인 'GPT-5.3-코덱스-스파크'를 실제로 실행 중이다.

브로드컴의 홉 탄 CEO는 이 칩이 엔비디아의 최신 블랙웰 칩이나 구글의 TPU와 동급의 성능을 발휘할 것이라고 자신감을 보였다. 전문가들은 할라피뇨의 도입으로 기존 범용 GPU 대비 약 50%의 인프라 비용 절감이 기대된다고 분석하고 있다.

미래를 위한 발판

오픈AI는 이번 칩 개발을 통해 비단 자사의 서비스뿐만 아니라 업계 전체의 LLM 워크로드를 지원할 수 있는 기반을 마련했다. 이는 오픈AI가 구글, 마이크로소프트(MS), 메타, 아마존과 함께 '자체 AI 실리콘 연합'에 참여하게 된 배경이기도 하다. 향후 오픈AI는 이 칩을 통해 서드파티 기업을 대상으로도 하드웨어 비즈니스를 확장할 가능성을 열어두고 있다.

이번 발표는 오픈AI가 하드웨어와 소프트웨어를 모두 통제하려는 '애플식 풀스택' 모델을 지향하고 있음을 보여준다. 하지만 엔비디아와 AMD의 칩도 함께 사용할 예정이라고 밝힌 만큼, 두 거대 기업의 경쟁력이 여전히 중요한 요소로 남아 있을 것이다.

오픈AI의 할라피뇨는 AI 기술의 진화에서 중요한 이정표가 될 것으로 보이며, 향후 AI 시장의 지형을 어떻게 변화시킬지 귀추가 주목된다.