하나의 대형 모델에 전용 칩 하나가 붙는 시대가 올 수도 있음

>>하나의 대형 모델에 전용 칩 하나가 붙는 시대가 올 수도 있음 •유명 벤처투자자 Martin Casado는 최첨단 대형 모델의 학습 비용이 이미 30억~50억 달러에 달하며, 추론 단계에서는 투자비를 회수하기 위해 약 100억 달러의 매출을 창출해야 할 수 있다고 분석 •이러한 규모에서는 전용 칩을 통해 추론 비용을 20%만 낮춰도 약 20억 달러를 절감할 수 있어, 커스텀 ASIC의 R&D 비용을 충분히 충당할 수 있음. •또한 모델 가중치는 상대적으로 고정돼 있어 칩을 특정 모델에 맞춰 심층적으로 최적화할 수 있기 때문에, 향후에는 ‘하나의 대형 모델에 하나의 전용 칩’이 대응하는 구조가 나타날 가능성도 있음 >https://wallstreetcn.com/charts/41959715#from=ios