AI 경쟁의 중심이 빠르게 ‘컴퓨팅 파워’에서 ‘메모리 용량’과 ‘추론 비용’으로 이동. 클라우드 추론 수요 급증으로 HBM·GDDR7 등 고속 메모리가 핵심 …

• AI 경쟁의 중심이 빠르게 ‘컴퓨팅 파워’에서 ‘메모리 용량’과 ‘추론 비용’으로 이동. 클라우드 추론 수요 급증으로 HBM·GDDR7 등 고속 메모리가 핵심 자원이 되었고, AI의 이른바 ‘메모리 블랙홀’ 효과도 본격적으로 나타나기 시작 • 2026년 고속 메모리 수요는 3EB에 달하고, AI가 글로벌 DRAM의 약 20%를 흡수할 가능성. 이는 PC, 스마트폰, 기존 서버 등 다른 응용 분야의 메모리 공급을 크게 압박할 수밖에 없는 상황. 추론 시 대규모 중간 상태 데이터 저장이 필요해 사용자·에이전트당 메모리 요구량이 급증. 100만 토큰 추론 시 FP8 기준 약 60GB, FP16은 100GB 이상 필요, 기존 8K 토큰(약 1GB) 대비 약 60배 증가, AI 확산의 숨은 비용으로 작용 (대만공상시보) >https://www.ctee.com.tw/news/20251226700135-439901