OpenAI, 추론 비용 절반 이상 줄이는 신규 기술 개발

>>OpenAI, 추론 비용 절반 이상 줄이는 신규 기술 개발 •정통한 소식통에 따르면, 그동안 외부에 공개되지 않았던 내용으로 이달 초 OpenAI 엔지니어들이 일부 동료들에게 새로운 최적화 기술들을 기반으로 모델 추론 비용을 50% 이상 절감할 수 있는 방안을 개발했다고 설명한 것으로 알려졌음. •해당 기술은 여러 신규 최적화 기법을 활용해 구현됐으며, 성공적으로 적용될 경우 AI 모델 운영 비용을 크게 낮출 수 있을 것 (The Information) >>据一位知晓相关讨论的知情人士透露,有一则此前从未对外披露的消息:本月早些时候,OpenAI 工程师向部分同事表示,依托几项全新研发的优化技术,他们找到了一套方案,能将模型推理成本削减一半以上。(The Information) (来自华尔街见闻)