IMCAT.DEV
로그인 가입

'딥시크 V4.1 플래시' 출시..."100만 토큰 창에 KV 캐시 75% 축소"

딥시크 V4.1 플래시 KV 캐시 사용량 축소 MoE
딥시크가 장기 실행 AI 에이전트의 핵심 병목으로 꼽히는 메모리 사용량을 크게 줄인 새로운 경량 모델을 공개했다. 100만 토큰의 초대형 컨텍스트 창을 지원하면서

딥시크가 연일 AI 업계의 주목을 받고 있습니다. 최근 이 회사는 자사의 최신 모델인 '딥시크 V4.1 플래시'를 발표하며 메모리 사용량을 획기적으로 줄인 경량 모델을 선보였습니다. 이 모델은 장기 실행 AI 에이전트의 효율성을 크게 향상시키며, 최대 100만 토큰을 지원하는 초대형 컨텍스트 창을 특징으로 하고 있습니다.

KV 캐시 사용량 대폭 감소

딥시크 V4.1 플래시는 기존 모델과 비교해 KV 캐시(KV Cache) 사용량을 약 75% 줄인 것이 가장 큰 특징입니다. KV 캐시는 AI 모델이 긴 입력을 처리할 때 저장되는 데이터로, 이 데이터가 지나치게 쌓이면 GPU의 메모리 사용에 부담을 줄 수 있습니다. 새로운 아키텍처는 이를 해결하기 위해 전역 KV 캐시의 사용량을 토큰당 약 890바이트로 줄였습니다. 이는 초기 모델인 V1과 비교했을 땐 무려 437분의 1에 해당하는 수치입니다. 이러한 변화를 통해 딥시크는 장기 실행 에이전트가 단일 요청으로도 긴 코드를 작성하거나 방대한 보고서를 생성하는 데 있어 훨씬 효율적으로 작업할 수 있도록 설계했습니다.

성능 향상과 API 비용 절감

딥시크는 V4.1 플래시 모델의 성능이 기존 V4 프로보다 뛰어나다고 강조하고 있습니다. 이 모델은 코딩, 사이버 보안, 자율 에이전트 작업 등 다양한 분야에서 높은 성능을 발휘하며, 실제 컴퓨팅 작업을 평가하는 '터미널-벤치 2.1'에서 90.6점을 기록했습니다. 이는 오픈AI의 'GPT-5.6 솔(88.8점)'과 문샷 AI의 '키미 K3(88.3점)'를 능가하는 수치입니다.

모델의 효율적인 아키텍처 덕분에 API 사용 비용도 절감되었습니다. 딥시크는 사용자들이 오프피크 시간에 작업을 배치하면 비용을 절반으로 줄일 수 있도록 지원하고 있습니다. 예를 들어, 캐시 미스가 발생할 경우 오프피크 시간대에는 100만 개 입력 토큰당 0.15달러로 저렴하게 이용할 수 있습니다.

향후 AI 발전에 기여할 딥시크 V4.1 플래시

딥시크 V4.1 플래시는 단순한 성능 향상에 그치지 않고, AI 에이전트의 효율성을 극대화하며 향후 다양한 응용 분야에서의 활용 가능성을 열어줍니다. 경량 모델이면서도 강력한 성능을 발휘하는 이 시스템은 향후 AI 기술의 발전에 크게 기여할 것으로 기대됩니다. 특히, 메모리 사용량을 줄이고 성능을 높이는 방향은 AI 기술의 지속 가능성을 확보하는 데 있어 중요한 요소가 될 것입니다.

딥시크는 앞으로도 이러한 기술 혁신을 통해 AI 분야에서의 입지를 더욱 확고히 할 것으로 보입니다. AI 기술의 진화가 어떻게 진행될지 귀추가 주목됩니다.