[DS 퀀트 김남일] Quant Note 07/23 - 한 번에 한 토큰의 시대는 끝날까 (ICML 2026 탐방기)

■ AI 평가는 정답률보다 장기 작업 완주율로 이동 - ICML 2026에서는 짧은 문항의 정답보다 긴 업무를 끝까지 수행하는 능력이 핵심 평가 기준으로 부상 - UltraHorizon, VenusBench-Mobile 등은 수백 회의 도구 호출과 장기 워크플로를 평가 - AI 경쟁의 초점은 모델 크기보다 작업 완주율과 실패 원인 분석으로 이동 ■ 전문 산업은 고비용 추론과 검증 중심으로 발전 - 법률·의료·바이오는 답변 생성보다 검색·검증·승인까지 포함한 장기 워크플로 구축이 핵심 - 금융도 예측 정확도보다 실제 투자 의사결정과 검증 가능한 시스템을 평가하는 방향으로 변화 - 전문 모델과 LLM, 검증 시스템을 결합하는 구조가 현실적인 도입 경로 ■ Diffusion은 AR 대체보다 병목 완화가 핵심 - Diffusion은 KV 캐시 부담을 줄일 가능성이 있지만 반복 계산 비용은 여전히 과제 - ICML 패널도 AR과 Diffusion의 경쟁보다 데이터 특성에 따른 역할 분담 가능성에 무게 - 당분간은 하이브리드 구조와 KV 캐시 최적화 기술이 중요한 투자 포인트 ■ AI 투자에서 확인해야 할 핵심 변수 - 장기 워크플로 확산으로 작업당 토큰과 도구 호출, 검증 비중이 지속 증가하는지 확인 필요 - 클라우드 투자, 가속기 출하, 서버당 HBM·DRAM 탑재량 증가는 AI 인프라 수요의 핵심 선행지표 - AI 경쟁은 모델 성능보다 장기 작업의 경제성과 인프라 효율을 얼마나 개선하는지가 핵심 이 자료는 조사분석자료 공표 승인이 이루어진 내용입니다. DS투자증권 리서치 텔레그램 링크 : https://t.me/DSInvResearch