文 | 洞見新研社 張未
英偉達看著供不應(yīng)求的訂單,有點著急。
增加供應(yīng)這句話,每發(fā)一次財報,英偉達都要再強調(diào)一次。
繼英偉達在第一季度宣布公司“正大幅增加供應(yīng),以滿足不斷增長的需求”后,英偉達CEO黃仁勛在近期又表示,正準(zhǔn)備將其GPU的產(chǎn)量至少增加三倍。
具體來說,英偉達擴充的是H100芯片的產(chǎn)量。2023年英偉達H100預(yù)計出貨量在50萬顆,但據(jù)英國《金融時報》報道,英偉達計劃明年出貨至少150萬顆H100處理器。
H100是英偉達于2022年推出的一款專為大型語言模型優(yōu)化的GPU,得益于“全民造模”的趨勢,推出至今長期賣斷貨,又被稱之為英偉達的“印鈔機”。
那么,宣稱增加三倍產(chǎn)量的H100,能為英偉達賺多少錢?
01 產(chǎn)量受制于人
要想知道H100究竟有多賺錢,只看兩點便可知。
一,H100在芯片市場中擁有絕對統(tǒng)治力。 當(dāng)今世界你第一時間想起的巨頭企業(yè),都在搶購它。上到特斯拉、蘋果、微軟、谷歌等知名公司,下到研究大語言模型的初創(chuàng)企業(yè),也有 Azure、GCP 和 AWS 等云服務(wù)供應(yīng)商(CSP),CoreWeave、Lambda 等大型私有云。
二是H100擁有超過90%的毛利率。
H100的物料成本主要有三部分:核心邏輯芯片、HBM內(nèi)存芯片、CoWoS封裝。
H100的核心邏輯芯片面積為814平方毫米,采用臺積電4N工藝制造(5nm+),以一塊報價為1.34萬美元的300mm晶圓,結(jié)合良率、損耗來看,大概能切割65顆,平均算下來每顆單價200美元左右;HBM內(nèi)存芯片來自SK海力士的HBM3內(nèi)存芯片,一共六顆,單顆容量為16GB,每GB為15美元,合計1500美元;雖CoWoS沒有公布其價格,但據(jù)分析師RobertCastellano結(jié)合臺積電財報推算,制造一顆H100需要723美元。
三大合計約2500美元(臺積電拿走約1000美元的情況下),算上除此以外的成本約3320美元左右。
也就是說英偉達的毛利率超過90%。
但英偉達想賺錢,還得看臺積電和SK海力士的臉色行事。
英偉達的H100確實在市場呈壟斷地位,說新一代“印鈔機”也無可厚非,但H100供不應(yīng)求,在明年第一季度之前都是售罄狀態(tài)。
要看臺積電臉色是因為,英偉達受制于臺積電先進的封裝技術(shù)—2.5D CoWos (Chip on Wafer on Substrate)。
CoWoS是一種2.5D/3D封裝技術(shù),是將多個有源硅模板集成在無源硅中介片上。然后將中介片和活性硅鏈接到包含I/O的包裝基板上,將其連接到系統(tǒng)PCB上。
CoWoS能將不同制程的芯片封裝在一起,可達到加速運算但同時控制成本的目的。簡單來說,CoWoS有節(jié)省空間、減少功耗的優(yōu)勢
英偉達的H100、A100全部由臺積電代工,并使用臺積電的CoWoS先進封裝技術(shù),除了英偉達外,其他廠商也對臺積電的CoWoS有需求,為此CoWoS產(chǎn)能供不應(yīng)求。
有設(shè)備廠商估算,臺積電 2023 年 CoWoS 總產(chǎn)能逾 12 萬片,2024 年將沖上 24 萬片,其中,英偉達將取得 14.4 萬-15 萬片。
CoWoS產(chǎn)能不足的背景下,依靠CoWoS封裝的H100,自然被臺積電扼住了咽喉。
HBM(高帶寬存儲)是限制英偉達H100生產(chǎn)的另一個重要瓶頸。
HBM類似數(shù)據(jù)的“中轉(zhuǎn)站”,就是將每一幀、每一幅圖像數(shù)據(jù)保存到幀緩存區(qū)域中,等候GPU調(diào)用。
相比傳統(tǒng)內(nèi)存技術(shù),HBM帶寬更高、功率更低、功耗更低、尺寸更小,能夠使AI服務(wù)器的傳輸速率和數(shù)據(jù)處理量大幅提升,因此HBM也成了AI服務(wù)器的標(biāo)配。
正如臺積電壟斷了先進封裝一般,HBM的供應(yīng)也被SK海力士壟斷,市占率超過95%,也是目前唯一量產(chǎn)HBM3E(第三代HBM)的廠商。
無論是CoWoS還是HBM3,每年的產(chǎn)能都是固定的,除英偉達外,各大廠商需求也不少。AMD不僅大量采用HBM,其中MI300搭載的還是HBM3;傳言谷歌在下半年推出的TPU張量處理器,也將搭載HBM。
搭載HBM的芯片幾乎都需要像CoWoS這樣的2.5D技術(shù),所以目前領(lǐng)先的GPU都有臺積電打包在CoWoS上,也就是說芯片的產(chǎn)能進一步SK海力士和臺積電的制約,英偉達并非說加芯就能加芯。
02 臺積電沒有替代品 ?
為了不被捏住命門,也為了芯片代工的議價權(quán),英偉達開始“削藩”尋找更多代工廠。
英偉達在 CoWoS 封裝等的關(guān)鍵制程已開放給其他供應(yīng)鏈代工廠。目前,英偉達正積極對接聯(lián)華電子,近日聯(lián)華電子將擴充旗下硅中介層(前段CoW部分)產(chǎn)能,月產(chǎn)能將由目前的 3 千片擴增至 1 萬片;封測廠Amkor、日月光投控旗下矽品則負(fù)責(zé)后段WoS封裝。
某種意義上來說,英偉達構(gòu)建的芯片帝國和臺積電打造的頂尖芯片代工廠如出一轍——同樣擁有一騎絕塵的技術(shù),是無可替代的存在。
所以扶持合作伙伴,并非短期有效解決措施,因為英偉達的核心芯片、產(chǎn)量,還是離不開臺積電的懷抱,否則英偉達今年由臺積電代工的芯片,怎么會占到臺積電年出貨量的40%左右?
好比遠水救不了近火,擴產(chǎn)能這件事沒有快速捷徑。
一方面,建造周期較長,芯片從制作到包裝都是的整個生態(tài)系統(tǒng)都是在臺積電周圍完成,如果另起爐灶,將制造業(yè)轉(zhuǎn)移尤為艱難。
另一方面,臺積電方也不會機會留給對手,對英偉達尋找替代工廠的曖昧態(tài)度,臺積電以積極擴建產(chǎn)能做出了回應(yīng)。
從營收結(jié)構(gòu)來看,臺積電也不會把嘴邊的肥肉放跑。2022的CoWoS封裝已經(jīng)占總收入5%以上,且將以每年近20%的速率增長。
臺積電也是下了重金擴產(chǎn),斥資900億元新臺幣在竹科銅鑼園區(qū)設(shè)立先進封裝廠,預(yù)計2026年底建廠完成,2027年第三季開始量產(chǎn),而位于日本熊本的工廠已建成。
值得英偉達高興的是,至少在HBM上還有可選方案,不用等CoWoS的擴建周期。三星表示將投資1萬億韓元擴大HBM產(chǎn)能,并于今年推出HBM3產(chǎn)品;美光預(yù)計其相關(guān)HBM產(chǎn)品“將在2024財年貢獻有意義的收入,并在2025年貢獻大幅增加的收入”。
但把臺積電,看成英偉達的鐐銬,倒也不一定完全準(zhǔn)確。
在硬幣的另一面,產(chǎn)能短缺也絕非都是壞事,至少英偉達在全球缺芯的市場中,壟斷了市場,也讓自己的芯片單價水漲船高,售價3.6萬美元的H100,此前在Ebay上的平均售價高達4.5萬美元。
要是沒有這場缺芯潮,芯片的二手市場怎會有如此高溢價,英偉達也沒有底氣開出如此高利潤的售價。
03 加不了量就加價???????????????????
在產(chǎn)能制約下,英偉達損失了高達百億美元的收入。
據(jù)GPU Utils,保守估計,H100的供給缺口達到43.2萬張。按每個 GPU 價格 3.5 萬美元計算,意味著英偉達痛失總價值高達 150 億美元的訂單。為了達到預(yù)期,英偉達采取的措施是推出更高端的芯片,提高收入和利潤。在產(chǎn)能有限的空間里、市場普遍對英偉達預(yù)期樂觀的背景下,英偉達利用近乎壟斷的地位,讓廠商為高端芯片買單,進而提高收入和利潤。
比如,英偉達正準(zhǔn)備推出新一代GH2000 Grace Hopper超級芯片,將于2024年第二季投產(chǎn)。相比最熱門的H100芯片,該芯片內(nèi)存容量高出3.5倍,帶寬高出3倍。
把英偉達歷代產(chǎn)品對比來看,就知道英偉達的利潤一直在水漲船高。從配置成本來看,H100的前代產(chǎn)品A100的生產(chǎn)成本至少也要上千美金,售價1萬美元,而成本3300美元的H100如今售價高達3.6萬美元,利潤極有可能成倍數(shù)增長。
英偉達毛利率的提高也是證據(jù)。英偉達最近一個季度的毛利率為70.93%,對比去年的43.48%提升顯著。
至于英偉達的對手們,正在抓住那43.2萬張H100的缺口。AMD就推出MI300,對A100和H100發(fā)起挑戰(zhàn)。
但AMD的MI300和A100較量還好說,挑戰(zhàn)H100有點難,從搭載配置來看,MI300 搭載了4核1.2GHz處理器、Android5.1系統(tǒng)、1GB的RAM和8GB的RAM,對比來看H100搭載了4核1.4Ghz處理器、Android8.1系統(tǒng)、2GB 的RAM和16GB的RAM。誰勝誰負(fù)高下立判,更別說H100 T860的GPU。
至于英特爾,選擇了英偉達的弱勢出擊—在H100無法到達的地方,與其競爭。
無論未來芯片市場有何變局,未來如何,至少AI的風(fēng)現(xiàn)在不會滅,英偉達也仍在芯片領(lǐng)域中叱咤風(fēng)云。
目前英偉達可能只剩下甜蜜的煩惱:如何造更多的芯片,如何讓股價滿足分析師預(yù)期。
參考資料:
1、《英偉達H100加速卡物料成本僅3000美元,毛利率超90%!》—— 芯智訊
2、《瘋狂的H100》——硅基研習(xí)社
3、《誰卡了英偉達脖子》——遠川研究所
4、《Is CoWoS Capacity Causing a GPU Shortage》——Phil Garrou.