AI 추론 전망 — 인프라 구축에서 상업적 수익화로 (중국언론)

>>AI 추론 전망 — 인프라 구축에서 상업적 수익화로 (중국언론) >AI 인프라의 주도권은 ‘구축’에서 ‘수익화’로 이동하고 있지만, 이것이 CapEx 정점을 의미하는 것은 아님 : AI 추론 Token 비용은 5월 고점 대비 37.5% 급락해 100만 Token당 1.33달러로 내려온 반면, 같은 기간 Blackwell GPU 임대료는 15.2% 상승해 시간당 5.18달러로 올랐음. 공급 측 가격은 상승하고 소비 측 가격은 하락하는 ‘추론 경제의 가위 격차’ 단계에 진입. 전력·인허가·인력이라는 세 가지 제약으로 당초 3년으로 예상했던 생산능력 확대가 5-10년으로 길어지고 있어 인프라 구축은 아직 끝나지 않았지만, 수익화 경로는 형설중 •Citi Heath Terry는 최신 AI 산업 주간 추적에서 지능형 라우팅이 Token 가격 하락의 핵심 동력이라고 판단. 기업들이 모든 작업에 가장 강력한 모델을 호출하는 대신 작업 복잡도에 따라 자동으로 모델을 배정하면서 추론 비용을 체계적으로 낮추고 있다는 것. 반면, 공급 측 상황은 완전히 다름. 2분기 하이퍼스케일러의 AI 자본수익률은 28%로 약 6%인 자금조달 비용의 거의 5배에 달했음. 미국 양당이 이번 주 이례적으로 합의해 데이터센터 건설 제한을 추진했음에도 Google과 SpaceX는 실적 시즌 이후 인프라 확대에 속도를 냈고, Amazon은 200억달러의 자본지출 추가 >전력이 병목...먼저 전력을 확보하는 곳이 먼저 수익화 : 텍사스주 전역 감사로 1,800개가 넘는 프로젝트와 474GW 규모의 승인 대기 물량이 동결, 데이터센터가 신규 전력 신청의 약 90%를 차지. 전력이 칩을 대신해 AI 인프라의 가장 시급한 병목 •핵심 인프라 건설업체들이 제시하는 기준은 신규 투자금의 1년 내 회수임. Amazon이 추가한 200억달러의 자본지출은 주로 스토리지 비용 상승의 영향을 받았으며, 여러 기업이 이 요인을 언급했음. AWS의 계약 수요는 2028년까지 이어지고 있으며, 경영진은 생산능력 부족이 2027년까지 지속될 것으로 예상. 누가 더 빨리 확실한 전력 공급 시점을 확보하느냐에 따라 데이터센터의 프리미엄이 높아지고 매출 실현도 빨라질 것 •전력·인허가·인력이라는 세 가지 제약이 겹치면서 당초 3년으로 예상했던 생산능력 확대는 5~10년으로 길어질 가능성이 높음. 공급업체 입장에서는 희소한 인프라의 높은 가격을 더 오래 유지할 수 있지만, 일부 매출은 더 늦은 사이클로 이연될 수 있음 >추론은 점점 ‘무거워지고’ 있음...메모리와 인터커넥트 부족도 아직 정점 아님 : 지난 3주 동안 추론 작업 1건당 평균 출력 Token은 11% 증가해 2.4만개에 달했으며, 추론 집약형 작업의 꼬리 구간은 9% 증가해 4만개까지 늘었음. 출력 Token 비중은 41%로 상승했고, 캐시 활동은 57%로 낮아졌으며 입력 Token은 2%에서 안정 •모델이 호출될 때마다 소비하는 컴퓨팅 자원이 늘어나고 있음. 아키텍처 차원의 돌파구가 없다면 출력과 캐시 중심의 워크로드가 계속 증가하면서 HBM과 인터커넥트 칩 수요도 계속 높아질 것. 메모리와 인터커넥트는 여전히 핵심 병목이며, 이것이 Amazon이 자본지출을 추가한 근본적인 이유 가운데 하나임. >글로벌 오픈소스 격차 4점...미·중 오픈소스 격차는 21점 : Artificial Analysis 지능 지수에 따르면 선두 폐쇄형 모델 Anthropic Claude Opus 5는 61점, 선두 오픈소스 모델 Moonshot AI Kimi K3는 57점으로 격차가 기존 9점에서 4점대 축소 •하지만 이 4점의 의미는 나눠서 볼 필요가 있음. 글로벌 오픈소스 모델이 폐쇄형 모델에 근접한 것은 주로 중국 업체들이 끌어올린 결과임. Kimi K3가 57점, Zhipu GLM-5.2가 51점, DeepSeek V4 Flash가 50점으로 오픈소스 상위권을 차지하고 있음. 반면 미국 선두 폐쇄형 모델과 미국 선두 오픈소스 모델 사이의 격차는 여전히 21점. 오픈소스 모델은 출시 전 안전성 테스트에서 면제되기 때문에 단기적으로 추격 속도를 높일 수 있지만, 미·중 오픈소스 모델 간 역량의 비대칭이 더욱 깊은 구조적 변수 >추론 속도 최적화가 지능 향상보다 훨씬 빠름 : Top 20 업체의 중간값 추론 속도는 초당 118 Token으로 회복돼 WoW 55.3% 상승했지만, 중간값 지능 점수는 43점에서 안정됐음. 업계의 중심은 ‘더 똑똑하게’에서 ‘더 빠르게’로 이동하고 있음. 가격 차별화도 크게 발생. 미국·유럽 혼합 Token 평균 가격은 100만 Token당 1.63달러인 반면 중국은 0.80달러로 절반 수준. DeepSeek V4 Flash와 Xiaomi MiMo-V2.5-Pro의 정가는 100만 Token당 0.03달러로 사실상 제로에 가까움. 프런티어 모델 평균 가격은 1.30달러로 WoW 3% 하락 •새로운 모델이 집중적으로 출시되는 시기도 다가오고 있음. 향후 6개월 동안 DeepSeek는 V4.1과 V4.2, Google은 Gemini 3.5 Pro부터 4.2까지 4개 버전, SpaceX는 Grok 4.6부터 5.1까지 4세대를 준비하고 있음. 새로운 프런티어 모델의 등장으로 격차가 다시 벌어질 가능성이 있지만, 추격자들의 출시 속도 역시 빨라지고 있음 >안전성 거버넌스가 상업적 장벽으로 변화 : AISI는 122차례 모델 평가에서 승인되지 않은 실시간 인터넷 활동 19건을 기록했음. 능력이 강해질수록 통제에서 벗어날 위험도 현실화되고 있으며, 이는 더 이상 이론적인 문제가 아님. •장기적으로 정부의 안전성 심사가 프런티어 폐쇄형 모델 업체의 경쟁장벽이 될 가능성이 있음. AI를 이용한 사이버 공격이 점점 빈번하고 복잡해지면서 ‘정부 인증’ 자체가 규제를 받는 기업 고객을 대상으로 한 상업적 자격이 될 수 있다는 것임. •프런티어 모델의 능력 상한은 아직 요원. OpenAI는 매출시 모델이 API 비용 2,000달러를 들여 10개의 수학적 돌파구를 만들어냈다고 공개. 능력의 상한선에는 아직 도달하지 않았지만, 호출 비용과 진입장벽은 빠르게 낮아지고 있음 >AI推理前瞻——从基础设施建设到商业化变现 https://wallstreetcn.com/articles/3778997#from=ios