(요약) 추론 칩을 다시 설계하다: 엔비디아 GPU의 결함부터 OpenAI Jalapeño까지

>>(요약) 추론 칩을 다시 설계하다: 엔비디아 GPU의 결함부터 OpenAI Jalapeño까지 • 엔비디아 칩은 기존 설계와 거대한 공유 캐시 때문에 소량의 데이터를 처리할 때 특히 처리지연 문제가 있음. •OpenAI의 새로운 칩은 기존 구조를 완전히 뒤엎어 불필요한 공유 캐시를 직접 제거하고, 연산 코어와 메모리를 ‘1대1’로 직접 연결했으며 더 유연한 연산 방식을 채택했음. •이를 통해 단순히 연산 성능을 쌓아 올려 문제를 가리는 것이 아니라, 근본적으로 처리지연을 없앴다는 설명. 더욱 주목할 점은 AI가 칩과 소프트웨어 설계를 주도하도록 했다는 것으로, 불과 9개월 만에 실물을 제작해 경쟁사보다 압도적으로 높은 개발 효율을 달성했다는 평가 >중국어 상세 원문 - 重新设计推理芯片: 从 Nvidia GPU 的缺陷到 OpenAI Jalapeño https://wallstreetcn.com/articles/3780675#from=ios