(3)

- AI 지출 최적화는 복잡한 계산이 될 수 있음. 오픈소스 모델은 AI 컴퓨팅의 기본 단위인 토큰당 비용이 훨씬 낮음. 예컨대 앤트로픽이 최근 출시한 페이블 5(Fable 5) 모델은 딥시크의 V4 프로(V4 Pro)보다 토큰당 가격이 50배 이상 비쌈 - 다만 연구자들에 따르면 오픈AI, 앤트로픽, 구글 같은 기업의 최상위 독점 모델은 오픈소스 경쟁 모델보다 여전히 4~6개월 앞서 있음. 경우에 따라서는 복잡한 작업을 더 적은 토큰으로 완수할 수 있어 총비용이 오히려 낮아지기도 함. - 앤트로픽 대변인은 "기업들이 점점 더 토큰당 가격이 아니라 작업당 가격, 즉 하나의 작업을 처음부터 끝까지 완수하는 데 드는 비용으로 모델을 평가하고 있다"고 말했음. 대변인은 앤트로픽도 더 저렴한 모델들을 보유하고 있다고 덧붙였음. - AI 비서 스타트업 린디(Lindy)는 두 달 전 딥시크의 V4 모델 검토에 착수했다고 창업자 플로 크리벨로(Flo Crivello)가 밝혔음. 크리벨로와 25명 규모의 팀은 이 중국 오픈소스 모델이 받은편지함·일정 관리, 이메일 초안 작성, 회의 녹취 등 린디의 업무를 처리할 수 있는지 확인하기 위해 광범위한 내부 도구를 구축 - 그 결과 딥시크는 이런 작업들을 앤트로픽의 소네트(Sonnet)만큼 잘 처리했고, 특히 이메일 분류에 강했음. 크리벨로에 따르면 가격은 10배 저렴했음. - 린디는 내부 코딩에는 여전히 더 고성능의 앤트로픽 모델을 쓰고 있지만, 전체적으로 이번 전환으로 수백만 달러를 절감했다고 크리벨로는 말했음. - 많은 기업이 오픈소스 대안을 활용해 자체 AI 모델을 설계하기 시작했으며 AI 비용을 줄이는 데 성공하고 있다고 밝히고 있음. 경영진들에 따르면 기업이 사내 모델을 구축해 자사 데이터로 학습시키면 성능이 개선되거나 프런티어 AI 모델의 역량을 넘어서기도 함. - 비용과 수행 작업에 따라 다양한 AI 모델을 섞어 쓰는 도구를 도입하기 시작한 기업들도 있음. - 구글 클라우드 AI 총괄을 지낸 앤드루 무어(Andrew Moore)는 AI 에이전트의 효율을 높이는 플랫폼을 보유한 스타트업 러블레이스 AI(Lovelace AI)를 운영하고 있는데, 그는 "지금 우리 AI들은 아주 인색하고 알뜰하다. 가능한 한 가장 싼 모델에서 뭔가를 뽑아내는 법을 정확히 알고 있다. 곤란해지면 일시적으로 더 비싼 가격대의 고급 모델로 올라간다"고 말했음 - 자율 코딩 도구를 제공하며 여러 AI 모델을 혼합해 쓰는 제품을 개발한 팩토리(Factory)의 CEO 마탄 그린버그(Matan Grinberg)는 최근 몇 주 동안 금융부터 통신까지 다양한 업계의 최고 경영진들이 AI 지출을 줄이려고 연락해 오면서 하루 종일, 매일같이 전화가 울리고 있다고 말했음. - 그린버그는 "이 가격 전쟁은 좋은 일이 될 것이고, 우리는 그것이 가능해지도록 돕고 싶다"고 말했음 https://www.wsj.com/tech/ai/the-ai-price-war-is-here-piling-pressure-on-openai-and-anthropic-86e1d21b?mod=article_inline