오픈AI-브로드컴, LLM 최적화 추론 칩 Jalapeño 공개

: 오픈AI와 브로드컴이 오픈AI의 첫 자체 인텔리전스 프로세서 ‘Jalapeño’를 공개. LLM 추론에 최적화된 AI 가속기로, 양사가 공동 구축하는 다세대 컴퓨트 플랫폼의 첫 제품 : 기존 AI 워크로드용 범용 가속기를 개조한 것이 아니라, 챗GPT, Codex, API, 향후 에이전트 제품에서 발생하는 LLM 추론 패턴을 기반으로 처음부터 설계 : 초기 테스트 결과 현재 최첨단 가속기 대비 와트당 성능이 크게 개선될 것으로 제시. 최종 성능 측정은 진행 중이며, 상세 기술 보고서는 향후 몇 달 내 발표 예정 : 아키텍처는 데이터 이동을 줄이고 컴퓨트, 메모리, 네트워킹 자원을 균형 있게 배치해 실제 활용률을 이론상 최대 성능에 더 가깝게 끌어올리는 데 초점 : 브로드컴은 실리콘 구현과 Tomahawk 네트워킹 기술을 제공하고, 셀레스티카는 보드, 랙, 시스템 통합 및 생산 시스템을 지원 : Jalapeño 엔지니어링 샘플은 연구소에서 생산 목표 주파수와 전력 조건으로 ML 워크로드를 실행 중. GPT-5.3-Codex-Spark도 테스트 워크로드에 포함 : Jalapeño는 초기 설계부터 제조 테이프아웃까지 9개월 만에 개발. 오픈AI는 이를 고성능 첨단 반도체 분야에서 가장 빠른 ASIC 개발 주기 중 하나로 평가 : 개발 과정에는 오픈AI 모델도 활용. AI가 칩 설계와 최적화 일부를 가속하면서, 향후 컴퓨트 비용 절감과 인프라 확장에도 기여할 수 있다는 점을 강조 : Jalapeño를 시작으로 다세대 AI 컴퓨트 플랫폼을 구축할 계획. 2026년 말 초기 배포를 목표로 하며, 이후 마이크로소프트 등 데이터센터 파트너들과 GW 규모로 확장 예정 : 추론 비용, 속도, 안정성 개선이 더 빠른 챗GPT 응답, 더 긴 Codex 작업 수행, 더 저렴한 API 제품, 수요 급증 시 안정적 접근성으로 이어질 수 있다고 설명 https://openai.com/index/openai-broadcom-jalapeno-inference-chip/