AI 인프라, ‘벽’에 부딪히다...Marvell: 구리 연결과 메모리 병목이 다음 단계 연산 확장의 핵심

>>AI 인프라, ‘벽’에 부딪히다...Marvell: 구리 연결과 메모리 병목이 다음 단계 연산 확장의 핵심 •AI 연산 경쟁이 인터커넥트와 메모리를 포함한 시스템 단위 경쟁으로 확대되고 있음. •Marvell 경영진은 추론 모델 확대로 KV 캐시가 9개월 만에 약 10배 증가했으며, 단일 랙의 메모리만으로는 수요를 충족하기 어려워지고 있다고 밝힘. •구리 연결은 한계에 가까워지고 있어 광학 인터커넥트와 메모리 확장이 향후 연산 능력 확대의 핵심이 될 것으로 전망됨. •맞춤형 설계가 업계의 추세로 자리잡고 있으며, Marvell은 아날로그 SerDes, 포토닉 패브릭 메모리, 전 구간 맞춤형 설계를 통해 수혜를 기대 >AI基础设施撞上“墙”!Marvell:铜连接、内存瓶颈成下一阶段算力扩张关键 https://wallstreetcn.com/articles/3782579#from=ios