文 | 洞見新研社 張未
英偉達(dá)看著供不應(yīng)求的訂單，有點著急。
增加供應(yīng)這句話，每發(fā)一次財報，英偉達(dá)都要再強(qiáng)調(diào)一次。
繼英偉達(dá)在第一季度宣布公司“正大幅增加供應(yīng)，以滿足不斷增長的需求”后，英偉達(dá)CEO黃仁勛在近期又表示，正準(zhǔn)備將其GPU的產(chǎn)量至少增加三倍。
具體來說，英偉達(dá)擴(kuò)充的是H100芯片的產(chǎn)量。2023年英偉達(dá)H100預(yù)計出貨量在50萬顆，但據(jù)英國《金融時報》報道，英偉達(dá)計劃明年出貨至少150萬顆H100處理器。
H100是英偉達(dá)于2022年推出的一款專為大型語言模型優(yōu)化的GPU，得益于“全民造?！钡内厔?，推出至今長期賣斷貨，又被稱之為英偉達(dá)的“印鈔機(jī)”。
那么，宣稱增加三倍產(chǎn)量的H100，能為英偉達(dá)賺多少錢？
01 產(chǎn)量受制于人
要想知道H100究竟有多賺錢，只看兩點便可知。
一，H100在芯片市場中擁有絕對統(tǒng)治力。 當(dāng)今世界你第一時間想起的巨頭企業(yè)，都在搶購它。上到特斯拉、蘋果、微軟、谷歌等知名公司，下到研究大語言模型的初創(chuàng)企業(yè)，也有 Azure、GCP 和 AWS 等云服務(wù)供應(yīng)商（CSP），CoreWeave、Lambda 等大型私有云。
二是H100擁有超過90%的毛利率。
H100的物料成本主要有三部分：核心邏輯芯片、HBM內(nèi)存芯片、CoWoS封裝。
H100的核心邏輯芯片面積為814平方毫米，采用臺積電4N工藝制造（5nm+），以一塊報價為1.34萬美元的300mm晶圓，結(jié)合良率、損耗來看，大概能切割65顆，平均算下來每顆單價200美元左右；HBM內(nèi)存芯片來自SK海力士的HBM3內(nèi)存芯片，一共六顆，單顆容量為16GB，每GB為15美元，合計1500美元；雖CoWoS沒有公布其價格，但據(jù)分析師RobertCastellano結(jié)合臺積電財報推算，制造一顆H100需要723美元。
三大合計約2500美元（臺積電拿走約1000美元的情況下），算上除此以外的成本約3320美元左右。
也就是說英偉達(dá)的毛利率超過90%。
但英偉達(dá)想賺錢，還得看臺積電和SK海力士的臉色行事。
英偉達(dá)的H100確實在市場呈壟斷地位，說新一代“印鈔機(jī)”也無可厚非，但H100供不應(yīng)求，在明年第一季度之前都是售罄狀態(tài)。
要看臺積電臉色是因為，英偉達(dá)受制于臺積電先進(jìn)的封裝技術(shù)—2.5D CoWos （Chip on Wafer on Substrate）。
CoWoS是一種2.5D/3D封裝技術(shù)，是將多個有源硅模板集成在無源硅中介片上。然后將中介片和活性硅鏈接到包含I/O的包裝基板上，將其連接到系統(tǒng)PCB上。
CoWoS能將不同制程的芯片封裝在一起，可達(dá)到加速運(yùn)算但同時控制成本的目的。簡單來說，CoWoS有節(jié)省空間、減少功耗的優(yōu)勢
英偉達(dá)的H100、A100全部由臺積電代工，并使用臺積電的CoWoS先進(jìn)封裝技術(shù)，除了英偉達(dá)外，其他廠商也對臺積電的CoWoS有需求，為此CoWoS產(chǎn)能供不應(yīng)求。
有設(shè)備廠商估算，臺積電 2023 年 CoWoS 總產(chǎn)能逾 12 萬片，2024 年將沖上 24 萬片，其中，英偉達(dá)將取得 14.4 萬-15 萬片。
CoWoS產(chǎn)能不足的背景下，依靠CoWoS封裝的H100，自然被臺積電扼住了咽喉。
HBM（高帶寬存儲）是限制英偉達(dá)H100生產(chǎn)的另一個重要瓶頸。
HBM類似數(shù)據(jù)的“中轉(zhuǎn)站”，就是將每一幀、每一幅圖像數(shù)據(jù)保存到幀緩存區(qū)域中，等候GPU調(diào)用。
相比傳統(tǒng)內(nèi)存技術(shù)，HBM帶寬更高、功率更低、功耗更低、尺寸更小，能夠使AI服務(wù)器的傳輸速率和數(shù)據(jù)處理量大幅提升，因此HBM也成了AI服務(wù)器的標(biāo)配。
正如臺積電壟斷了先進(jìn)封裝一般，HBM的供應(yīng)也被SK海力士壟斷，市占率超過95%，也是目前唯一量產(chǎn)HBM3E（第三代HBM）的廠商。
無論是CoWoS還是HBM3，每年的產(chǎn)能都是固定的，除英偉達(dá)外，各大廠商需求也不少。AMD不僅大量采用HBM，其中MI300搭載的還是HBM3；傳言谷歌在下半年推出的TPU張量處理器，也將搭載HBM。
搭載HBM的芯片幾乎都需要像CoWoS這樣的2.5D技術(shù)，所以目前領(lǐng)先的GPU都有臺積電打包在CoWoS上，也就是說芯片的產(chǎn)能進(jìn)一步SK海力士和臺積電的制約，英偉達(dá)并非說加芯就能加芯。
02 臺積電沒有替代品 ?
為了不被捏住命門，也為了芯片代工的議價權(quán)，英偉達(dá)開始“削藩”尋找更多代工廠。
英偉達(dá)在 CoWoS 封裝等的關(guān)鍵制程已開放給其他供應(yīng)鏈代工廠。目前，英偉達(dá)正積極對接聯(lián)華電子，近日聯(lián)華電子將擴(kuò)充旗下硅中介層（前段CoW部分）產(chǎn)能，月產(chǎn)能將由目前的 3 千片擴(kuò)增至 1 萬片；封測廠Amkor、日月光投控旗下矽品則負(fù)責(zé)后段WoS封裝。
某種意義上來說，英偉達(dá)構(gòu)建的芯片帝國和臺積電打造的頂尖芯片代工廠如出一轍——同樣擁有一騎絕塵的技術(shù)，是無可替代的存在。
所以扶持合作伙伴，并非短期有效解決措施，因為英偉達(dá)的核心芯片、產(chǎn)量，還是離不開臺積電的懷抱，否則英偉達(dá)今年由臺積電代工的芯片，怎么會占到臺積電年出貨量的40%左右？
好比遠(yuǎn)水救不了近火，擴(kuò)產(chǎn)能這件事沒有快速捷徑。
一方面，建造周期較長，芯片從制作到包裝都是的整個生態(tài)系統(tǒng)都是在臺積電周圍完成，如果另起爐灶，將制造業(yè)轉(zhuǎn)移尤為艱難。
另一方面，臺積電方也不會機(jī)會留給對手，對英偉達(dá)尋找替代工廠的曖昧態(tài)度，臺積電以積極擴(kuò)建產(chǎn)能做出了回應(yīng)。
從營收結(jié)構(gòu)來看，臺積電也不會把嘴邊的肥肉放跑。2022的CoWoS封裝已經(jīng)占總收入5%以上，且將以每年近20%的速率增長。
臺積電也是下了重金擴(kuò)產(chǎn)，斥資900億元新臺幣在竹科銅鑼園區(qū)設(shè)立先進(jìn)封裝廠，預(yù)計2026年底建廠完成，2027年第三季開始量產(chǎn)，而位于日本熊本的工廠已建成。
值得英偉達(dá)高興的是，至少在HBM上還有可選方案，不用等CoWoS的擴(kuò)建周期。三星表示將投資1萬億韓元擴(kuò)大HBM產(chǎn)能，并于今年推出HBM3產(chǎn)品；美光預(yù)計其相關(guān)HBM產(chǎn)品“將在2024財年貢獻(xiàn)有意義的收入，并在2025年貢獻(xiàn)大幅增加的收入”。
但把臺積電，看成英偉達(dá)的鐐銬，倒也不一定完全準(zhǔn)確。
在硬幣的另一面，產(chǎn)能短缺也絕非都是壞事，至少英偉達(dá)在全球缺芯的市場中，壟斷了市場，也讓自己的芯片單價水漲船高，售價3.6萬美元的H100，此前在Ebay上的平均售價高達(dá)4.5萬美元。
要是沒有這場缺芯潮，芯片的二手市場怎會有如此高溢價，英偉達(dá)也沒有底氣開出如此高利潤的售價。
03 加不了量就加價???????????????????
在產(chǎn)能制約下，英偉達(dá)損失了高達(dá)百億美元的收入。
據(jù)GPU Utils，保守估計，H100的供給缺口達(dá)到43.2萬張。按每個 GPU 價格 3.5 萬美元計算，意味著英偉達(dá)痛失總價值高達(dá) 150 億美元的訂單。為了達(dá)到預(yù)期，英偉達(dá)采取的措施是推出更高端的芯片，提高收入和利潤。在產(chǎn)能有限的空間里、市場普遍對英偉達(dá)預(yù)期樂觀的背景下，英偉達(dá)利用近乎壟斷的地位，讓廠商為高端芯片買單，進(jìn)而提高收入和利潤。
比如，英偉達(dá)正準(zhǔn)備推出新一代GH2000 Grace Hopper超級芯片，將于2024年第二季投產(chǎn)。相比最熱門的H100芯片，該芯片內(nèi)存容量高出3.5倍，帶寬高出3倍。
把英偉達(dá)歷代產(chǎn)品對比來看，就知道英偉達(dá)的利潤一直在水漲船高。從配置成本來看，H100的前代產(chǎn)品A100的生產(chǎn)成本至少也要上千美金，售價1萬美元，而成本3300美元的H100如今售價高達(dá)3.6萬美元，利潤極有可能成倍數(shù)增長。
英偉達(dá)毛利率的提高也是證據(jù)。英偉達(dá)最近一個季度的毛利率為70.93%，對比去年的43.48%提升顯著。
至于英偉達(dá)的對手們，正在抓住那43.2萬張H100的缺口。AMD就推出MI300，對A100和H100發(fā)起挑戰(zhàn)。
但AMD的MI300和A100較量還好說，挑戰(zhàn)H100有點難，從搭載配置來看，MI300 搭載了4核1.2GHz處理器、Android5.1系統(tǒng)、1GB的RAM和8GB的RAM，對比來看H100搭載了4核1.4Ghz處理器、Android8.1系統(tǒng)、2GB 的RAM和16GB的RAM。誰勝誰負(fù)高下立判，更別說H100 T860的GPU。
至于英特爾，選擇了英偉達(dá)的弱勢出擊—在H100無法到達(dá)的地方，與其競爭。
無論未來芯片市場有何變局，未來如何，至少AI的風(fēng)現(xiàn)在不會滅，英偉達(dá)也仍在芯片領(lǐng)域中叱咤風(fēng)云。
目前英偉達(dá)可能只剩下甜蜜的煩惱：如何造更多的芯片，如何讓股價滿足分析師預(yù)期。
參考資料：
1、《英偉達(dá)H100加速卡物料成本僅3000美元，毛利率超90%！》—— 芯智訊
2、《瘋狂的H100》——硅基研習(xí)社
3、《誰卡了英偉達(dá)脖子》——遠(yuǎn)川研究所
4、《Is CoWoS Capacity Causing a GPU Shortage》——Phil Garrou.