OpenAI 官方發布了關於自研晶片「Jalapeño」的消息。這款晶片是 OpenAI 與博通(Broadcom)合作開發,專門針對大型語言模型(LLM)的「推論」需求設計。
這代表 OpenAI 正式從軟體層面跨足到硬體底層,試圖透過垂直整合來解決目前 AI 發展的瓶頸。
新聞重點
根據 OpenAI 的新聞稿,這款名為 Jalapeño 的智慧處理器(Intelligence Processor)有幾個關鍵資訊:
* 開發速度極快:從初始設計到設計定案(Tape-out)僅耗時九個月。OpenAI 提到,他們利用了自己的模型來輔助設計與優化,實現了「用 AI 設計 AI 硬體」的循環。
* 專為推論設計:Jalapeño 並非通用型晶片,而是針對 LLM 的運算、記憶體移動與網路需求從零開始設計的客製化晶片(ASIC)。目標是提供優於目前業界頂尖技術的每瓦效能。
* 合作夥伴與時程:由 OpenAI 負責架構,博通負責矽智財與網路技術,Celestica 負責系統整合。目前實驗室樣本已能運行「GPT-5.3-Codex-Spark」的工作負載,預計 2026 年開始在微軟等合作夥伴的資料中心大規模部署。
觀察:品質達水準時,速度與成本就是使用者體驗的關鍵
我認為 OpenAI 選擇進軍自研晶片,很大程度是參考了 Google TPU 的成功模式。透過自架底層基礎設施,可以讓自家模型發揮更大的效率優勢。
從使用者體驗的角度來看,目前 OpenAI 的模型產出品質雖然讓人滿意,但在「反應時間」上確實還有進步空間。之前有提到Gemini 3.5 Flash的使用,速度非常快,或許就可能與使用了針對自家模型優化的 TPU有關(當然也受模型架構等等的軟硬體協同優化影響)。
當內容品質達到一定水準後,影響使用者體驗的關鍵就是「反應速度」與「成本」。如果我們在修正問題或處理日常對話時,模型反應太慢,其實就可能影響情緒與工作效率。因此,大型模型商開發特化晶片來提升推論效率,是一個非常明確且合理的戰略方向。
不過,Jalapeño 主要是用於「推論」而非「訓練」。這意味著在訓練大型模型的階段,OpenAI 現階段可能仍然會大量依賴 NVIDIA 的 GPU 或其他訓練型加速器。
這件事值得繼續觀察什麼

1. 推論成本的降幅:Jalapeño 若能在 2026 年順利部署,是否能逐漸看到 API 的使用成本降低?
2. 二線模型商的壓力:開發 ASIC 晶片需要數千萬甚至數億美元的投入,這是否會拉大 OpenAI 與其他缺乏硬體研發能力模型商之間的差距?
原文連結:https://openai.com/index/openai-broadcom-jalapeno-inference-chip/



