DeepSeek, V4 업데이트 통해 DSpark 공개... 추론 속도 최대 85% 향상

>>DeepSeek, V4 업데이트 통해 DSpark 공개... 추론 속도 최대 85% 향상 •DeepSeek가 V4 버전을 조용히 업데이트하며 투기적 디코딩 프레임워크인 DSpark와 오픈소스 풀스택 툴인 DeepSpec을 공개 •DSpark는 병렬 생성과 적응형 부하 인식 검증 을 결합한 구조를 채택했음. 이를 통해 동일한 처리량(Throughput)을 유지하면서도 사용자 체감 생성 속도를 최대 85%까지 향상시킬 수 있다고 밝혔음 •또한 핵심 지표인 평균 수용 길이에서도 기존 투기적 디코딩 기술인 Eagle 3와 DFlash를 전반적으로 상회하는 성능을 기록했다고 설명 •이번 업데이트는 모델 자체의 성능 향상보다는 추론 효율 개선에 초점이 맞춰져 있으며, AI 서비스 운영 비용 절감과 응답 속도 향상 측면에서 의미가 있다는 평가가 나오고 있음. 특히 대규모 추론 서비스에서는 동일한 GPU 자원으로 더 많은 요청을 처리할 수 있어 비용 효율 개선 효과가 기대 >刚刚,DeepSeek V4更新DSpark,推理速度提升80% https://wallstreetcn.com/articles/3775676#from=ios