HBF, 차세대 AI 추론용 메모리로 중요도 부상

💻 HBF, 차세대 AI 추론용 메모리로 중요도 부상 📌 HBF란? HBF는 NAND Flash를 적층해 높은 대역폭과 대용량을 노리는 차세대 메모리 HBM과 SSD 사이에 위치해 GPU·CPU 가까이에 대용량 데이터를 배치하는 구조 📌 왜 중요한가? AI 추론에서는 모델 파라미터와 KV 캐시 증가로 속도뿐 아니라 메모리 용량 자체가 병목 Sandisk는 HBF가 HBM과 유사한 대역폭을 목표로 하면서 동일 비용 기준 HBM 대비 8~16배 높은 용량을 제공할 수 있다고 제시 16단 적층 기준 최대 512GB, 대역폭은 약 0.4~3.0TB/s까지 규격화 📌 HBM을 대체하는 기술? 현재 방향은 HBM 완전 대체보다는 HBM+HBF의 하이브리드 구조 HBM은 낮은 지연시간과 고성능 연산을 담당 HBF는 상대적으로 저렴한 비용으로 대용량 데이터를 GPU 가까이에 저장하는 역할 Sandisk·SK하이닉스 역시 HBF와 HBM이 함께 사용되는 구조를 공식적으로 제시 📌 Sandisk·SK하이닉스 2026년 8월 Sandisk와 SK하이닉스가 OCP를 통해 업계 최초 HBF 공개 표준 규격을 발표 8단·16단 NAND 적층, 최대 512GB 용량과 UCIe 인터페이스를 채택 📌 핵심 포인트 AI 추론이 확대될수록 연산성능뿐 아니라 ‘얼마나 많은 데이터를 GPU 가까이에 저렴하게 둘 수 있는가’가 중요 💻반도체 소부장💻[그로쓰리서치] https://telegram.me/growth_semi