AI 인프라 병목: 전력과 구리선의 한계

💻 AI 인프라 병목: 전력과 구리선의 한계 최근 AI 데이터센터 설계에서 가장 큰 제약은 단순히 GPU 수급이 아니라 1전력(Power)과 2인터커넥트(Connectivity) 📌 1MW 랙 시대 서버 랙 1개가 소비하는 전력이 1MW 수준까지 증가 전력 공급과 냉각이 데이터센터 설계의 핵심 이슈로 부상 NVIDIA는 이를 위해 800V DC 전력 인프라 전환을 추진 중 📌 구리선(Copper)의 물리적 한계 데이터 전송 속도가 높아질수록 신호 도달 거리(Reach)는 급격히 감소 예: 224G PAM4 → 448G로 올라가면 구리선 전송 가능 거리가 1m 이하로 축소 즉, AI 클러스터 확장 시 단순히 GPU를 늘리는 방식이 어려워짐 📌 GPU Pod 확장의 제약 향후 AI Pod 규모는 사실상 "스위치로부터 1m 이내에 몇 개의 GPU를 배치할 수 있는가"로 결정 이를 위해 스위치를 중앙에 두고 GPU를 최대한 밀집 배치하는 구조 채택 2027년 캐비닛 기준 144개 GPU 패키지 구성 사례도 등장 📌 시사점 AI 인프라의 병목은 이제 컴퓨팅 성능이 아니라 전력 밀도와 구리 인터커넥트의 물리적 한계 GPU 성능이 계속 증가할수록 구리 기반 네트워크는 확장성에 한계를 노출 결국 대규모 AI 팩토리는 광 인터커넥트(Optical Interconnect) 전환이 필수적 💻반도체 소부장💻 [그로쓰리서치] https://t.me/growth_semi