SemiAnalysis: AI 추론 확대, HBM ‘고용량 경쟁’ 꺾일 가능성

💻 SemiAnalysis: AI 추론 확대, HBM ‘고용량 경쟁’ 꺾일 가능성 📌 HBM, 무조건 많이 쌓는 시대 변화 차세대 엔비디아 Rubin Ultra는 GPU당 HBM 용량이 기존 288GB에서 192GB로 줄어들며 12단 대신 8단 HBM을 채택할 전망. HBM 공급 부족과 가격 상승에 더해 AI 연산이 학습보다 추론 중심으로 이동하는 것이 주요 배경 추론에서는 메모리 용량보다 데이터를 얼마나 빠르게 읽어오는지인 ‘대역폭’이 더욱 중요해지는 구조. 📌 다음 단계는 4단 HBM까지 4단 HBM도 8단·12단과 동일한 대역폭을 낼 수 있어 적은 메모리로 비슷한 추론 성능을 구현할 수 있다는 분석. 세미애널리시스는 4단 HBM이 8단·12단보다 시스템 비용을 낮춰 AI 추론의 토큰당 비용을 줄일 수 있다고 분석 실제로 주요 AI 기업의 하드웨어팀은 차세대 HBM4부터 일부 추론용 자체 AI칩에 4단 HBM 적용을 원하는 것으로 파악. 📌 HBM 웨이퍼 부족도 완화 가능 4단 HBM은 같은 웨이퍼에서 8단 대비 2배 이상 많은 HBM을 생산할 수 있어 부족한 DRAM 생산능력을 효율적으로 활용 가능. 현재 마이크론은 최소 2개 고객사를 대상으로 4단 HBM을 테스트 중이지만 삼성전자와 SK하이닉스는 아직 공급에 소극적인 상황. 4단 HBM이 확산될 경우 고객은 비용을 줄이고 메모리 업체는 높은 수익성을 확보할 수 있어 양쪽 모두에 유리할 수 있다고 분석. 💻반도체 소부장💻[그로쓰리서치] https://t.me/growth_semi