💻 KV Cache 폭증이 바꾸는 메모리 판: NAND에서 HBF까지 NAND와 HBF 관련해서는 저희가 이전에 따로 보고서를 작성한 적이 있습니다. 최근에는 KV cache 용량이 커지면서 모든 데이터를 HBM에서 감당하기 어려운 구간으로 들어가고 있습니다. 이 과정에서 대용량…