[SK증권 해외주식 박제민]

엔비디아, MoE + Reasoning 환경에서 GB200 NVL72 스팩 공개 ▶️ 결론 엔비디아 기술적 우위, 규모 우위 여전 MoE, Reasoning 나아가 Reinforcement Learning으로 LLM Scaling Law가 다변화되는 중 TPU v7 외부 판매는 대단한 진보가 맞으나 가장 high end의 인프라는 엔비디아가 유지할 것으로 판단 내년 TPU v8과 VR200의 스팩 차이, Rubin CPX 인프라까지 활용될 경우 해자는 더 명확 ▶️ 데이터 공개 배경 '25년 11월 6일 Kimi K2 Thinking 공개, 최신 MoE + Reasoning 적용된 오픈소스 모델 Reasoning은 '24년말 GPT o1-preview가 최초, 그러나 폐쇄형 모델 MoE는 연초 딥시크 사태를 불러온 핵심 기술, 그러나 Reasoning 미적용 현재 Leading AI 모델들 모두 MoE, Reasoning 적용 ▶️ TPU 대비 성능 파악되는 Nvidia 우위는 총 4가지 1. TPU 태생적 한계 TPU는 행렬 곱산 특화, 데이터가 정렬적으로 들어와야 효율 극대화 MoE는 데이터가 산재돼서 들어옴. GPU 유연성 필요 2. Native FP4 Reasoning의 가장 큰 병목은 메모리 대역폭(Memory Bandwidth) Blackwell은 FP4로 FP8 대비 데이터 크기를 절반 감소 TPU는 SW단 FP4 지원만 가능, v8에서도 Native FP4 가능 여부 불분명 3. CUDA MoE는 특유의 불규칙한(Sparse) 메모리 접근 필요 구글의 XLA(TPU 컴파일러)보다 CUDA SW들이 미세하고 빠른 최적화가 가능 4. NVIDIA Dynamo 엔비디아의 인프라 단위 SW '프리필(입력 처리)'과 '디코드(토큰 생성)' 과정을 분리해 처리 가능 ▶️ 최근 CoWoS Capa 증가 주요 외국계 증권사들의 CoWoS Capa 전망치 상향, 연초 대비 30~40% 상승 이는 규모면에서의 엔비디아 우위를 희석 그러나 2026년 Broadcom 배정량 차이 미미, 2027년부터는 VR200 활성화로 스팩 차이 존재 URL: https://buly.kr/3j9LXkX * SK증권 리서치 IT팀 채널 : https://t.me/skitteam