샌디스크 인베스터데이: HBF vs HBM 성능 비교 — 원본 슬라이드 확인

💻 샌디스크 인베스터데이: HBF vs HBM 성능 비교 — 원본 슬라이드 확인 결국 HBF는 HBM의 고속 연산 + SSD의 용량 장점을 중간 포지션에서 구축될 가능성이 높음. 실제 사용자 AI요청이 많아질수록 KV Chace 값은 증가하기 때문에 큰용량이 필요. 📌 아키텍처 구성 비교 ・HBF Only: xPU 1개 기준 GPU 1개(최소 구성) 또는 4개(비교 구성) — HBF 칩이 xPU 좌우로 4개씩 배치 ・HBM Only: GPU 8개 — HBM 칩이 xPU 좌우로 배치된 기존 구조 📌 추론 토큰 출력 성능 그래프 ・HBM 8-GPU(파란선) 대비 HBF 4-GPU(초록선)가 유사한 수준의 초당 토큰 출력에 도달 후 안정적으로 유지 ・HBF 1-GPU(노란선)는 HBM 8-GPU 대비 낮은 수준에서 안정화 — 다만 그래프상 완전히 낮은 것은 아니고 일정 수준의 출력은 확보 ・(참고: 텍스트로 설명드린 대로 "1개로 8개를 대체"라는 트윗 주장과, 이 그래프의 "1-GPU 노란선이 8-GPU보다 낮은 출력"이라는 시각적 표현 사이에는 다소 뉘앙스 차이가 있어 보임 — 아래에서 짚어드리겠습니다) 📌 핵심 수치 — 슬라이드 하단 ・8배 캐펙스 효율성: "모델을 구동하는 데 필요한 최소 구성" 기준, HBF GPU 1개 vs HBM GPU 8개 비교 ・2배 GPU 효율성: HBF GPU 4개가 HBM GPU 8개와 동일한 토큰 출력 — 즉 GPU 대수 절반 💻반도체 소부장💻[그로쓰리서치] https://telegram.me/growth_semi