마벨, "AI 병목은 GPU 다음 메모리...CXL·인메모리 컴퓨트 부상"

✅ 마벨, "AI 병목은 GPU 다음 메모리...CXL·인메모리 컴퓨트 부상" 📌마벨 테크놀로지: 메모리 병목은 오래된 구조적 문제 CPU 설계 초기부터 메모리 계층 구조는 핵심 병목으로 존재 상위 메모리 계층으로 갈수록 대역폭은 낮아지고 지연 시간은 증가하는 구조 📌 AI 추론 시대, 메모리 재설계 필요 오늘날 AI 시스템의 ‘중력 우물’은 메모리로 이동 토큰의 더 빠른 처리를 위해 메모리를 연산장치 가까이 배치하는 구조가 중요 📌 근접 메모리·인메모리 컴퓨트 주목 Near-Memory Computing과 In-Memory Computing은 데이터 이동 비용을 줄이는 핵심 대안 연산과 메모리 간 거리를 줄이면 AI 추론 속도와 전력 효율을 동시에 개선 가능 📌 CXL, 메모리 풀링의 핵심 기술 여러 장치가 동일한 데이터를 반복해 활용하려면 메모리 복사본 간 일관성이 중요 향후 AI 서버와 데이터센터에서 CXL 기반 메모리 풀링이 핵심 인프라 기술로 부각될 전망 ✅ 독립리서치 그로쓰리서치 https://t.me/growthresearch