바이트댄스(ByteDance) 신규 알고리즘 공개... 추론 연산량 3분의 1 절감

>>바이트댄스(ByteDance) 신규 알고리즘 공개... 추론 연산량 3분의 1 절감 •바이트댄스가 베이항대학(Beihang University)과 공동으로 LLM의 ‘과도한 추론(overthinking)’ 문제를 개선하는 SAGE-RL 알고리즘을 제안했음. 기존 모델은 이미 정답에 도달했음에도 불구하고 불필요한 토큰을 계속 생성하는 경향이 있어, 추론 과정에서 상당한 연산 자원이 낭비된다는 문제가 발생 •연구진은 모델이 실제로는 ‘스스로 충분한 답에 도달했음을 인지’하는 능력을 갖고 있음에도, 기존 샘플링 전략의 한계로 인해 적절한 시점에 출력을 종료하지 못한다는 점에 주목. 이에 SAGE 알고리즘은 ’단계‘ 단위 탐색 방식을 도입해 모델이 적절한 시점에 종료 신호를 출력하도록 유도함으로써, 정확도를 유지하면서도 추론 토큰 사용량을 1/3로 축소 •결과적으로 동일한 정확도 수준을 유지한 채 연산 비용을 크게 낮추는 ‘비용 절감 및 효율 제고’ 효과를 달성했으며, 대규모 모델 서비스 운영에서 추론 비용 구조를 개선할 수 있는 기술적 진전으로 평가 >https://wallstreetcn.com/articles/3766378#from=ios