文|烏鴉智能說(shuō)
在這場(chǎng)以大模型為名的千億美金級(jí)豪賭實(shí)驗(yàn)，從來(lái)不缺少故事。從ChatGPT引爆那一刻起，AI行業(yè)的競(jìng)爭(zhēng)從來(lái)不僅是技術(shù)的競(jìng)爭(zhēng)，也是一場(chǎng)資源的競(jìng)爭(zhēng)。到了今年，這場(chǎng)競(jìng)爭(zhēng)從算力延伸到了電力。
在今年短短不到三個(gè)月的時(shí)間，黃仁勛、奧特曼和馬斯克分別在不同場(chǎng)景的演講里都表達(dá)了同一個(gè)觀點(diǎn)：AI的未來(lái)很缺電。
據(jù)《紐約客》當(dāng)時(shí)時(shí)間9日?qǐng)?bào)道，荷蘭國(guó)家銀行數(shù)據(jù)專家Alex de Vries估計(jì)，OpenAI旗下聊天機(jī)器人ChatGPT每天消耗超過(guò)50萬(wàn)千瓦時(shí)的電力，用于處理約2億個(gè)用戶請(qǐng)求，相當(dāng)于美國(guó)家庭每天用電量的1.7萬(wàn)多倍。
更重要的是，在互聯(lián)網(wǎng)時(shí)代邁向AI時(shí)代的過(guò)程中，數(shù)據(jù)中心的耗電增長(zhǎng)曲線將從線性增長(zhǎng)變成幾何式上升。假設(shè)生成式AI被集成到谷歌的每一個(gè)搜索中，屆時(shí)意味著谷歌每年將會(huì)有29.2太瓦時(shí)的電力消耗（292億度電），相當(dāng)于2021年美國(guó)全社會(huì)總用電量的0.77%。
考慮到搜索只是一個(gè)AI應(yīng)用場(chǎng)景，后續(xù)隨著應(yīng)用場(chǎng)景的增加，人工智能行業(yè)的耗電量將出現(xiàn)巨大增長(zhǎng)。??
/ 01 / 從缺硅到缺電
今年以來(lái)，在AI大佬的講話里，都有一個(gè)共同的主題：缺電。不久前，在一場(chǎng)公開(kāi)演講里，英偉達(dá)創(chuàng)始人黃仁勛表示，“AI的盡頭是光伏和儲(chǔ)能，不要光想著算力，如果只想著計(jì)算機(jī)，需要燒掉14個(gè)地球的能源”。
OpenAI的創(chuàng)始人山姆·奧特曼也提出了類似的看法。奧特曼公開(kāi)承認(rèn)，人工智能行業(yè)正在走向能源危機(jī)。在瑞士達(dá)沃斯舉行的世界經(jīng)濟(jì)論壇年會(huì)上，奧特曼警告說(shuō)，下一波生成型人工智能系統(tǒng)消耗的電力將遠(yuǎn)遠(yuǎn)超出預(yù)期，能源系統(tǒng)將難以應(yīng)對(duì)，未來(lái)AI的技術(shù)取決于能源，我們需要更多的光伏和儲(chǔ)能。
作為科技圈的大佬，馬斯克也成為了能源焦慮的吹風(fēng)人。不久前，馬斯克在博世互聯(lián)世界2024大會(huì)上預(yù)言，“接下來(lái)陷入短缺的將是電力，到明年（2025年），我們就沒(méi)有足夠的電力來(lái)運(yùn)行所有的芯片了?！?/p>
這并非馬斯克第一次預(yù)測(cè)人工智能算力會(huì)面臨變壓器和電力供應(yīng)的短缺，2023年至今，馬斯克和其xAI團(tuán)隊(duì)已至少三次提及過(guò)這一問(wèn)題。去年8月，馬斯克就警告說(shuō)，電力短缺造成的嚴(yán)重后果，可能會(huì)阻礙人工智能等能源密集型技術(shù)的發(fā)展。
有趣的是，上周騰訊科技發(fā)布的《朱嘯虎講了一個(gè)中國(guó)現(xiàn)實(shí)主義AIGC故事》里，當(dāng)談及未來(lái)5到10年能不能產(chǎn)生AGI，朱嘯虎同樣表達(dá)了對(duì)算力、能耗等資源的擔(dān)憂：
“從哲學(xué)角度看，智力級(jí)別的提升首先需要能量級(jí)別的提升?？煽睾司圩儗?shí)現(xiàn)前，我不太相信地球有足夠的算力能夠?qū)崿F(xiàn)真正的AGI。幫人類降低90%的工作可能未來(lái)3到5年可以實(shí)現(xiàn)，但最后的10%可能需要天量的算力和能耗，這也是為什么Sam Altman想融天量的資金！行百里者半九十?！?/p>
所有大佬都認(rèn)為AI的未來(lái)很缺電。那么，大模型的耗電量究竟有多瘋狂？
/ 02 / 單月耗電量大比拼！ChatGPT 等于23.7萬(wàn)中國(guó)人
在AI行業(yè)的成本結(jié)構(gòu)里，電力成本是除了芯片成本外最核心的成本。一般來(lái)說(shuō)，生成式AI的電力消耗主要來(lái)自兩方面：訓(xùn)練構(gòu)成AI系統(tǒng)核心的大型語(yǔ)言模型時(shí)所需的電力，以及大型語(yǔ)言模型執(zhí)行邏輯推論（Inference）運(yùn)算時(shí)的能耗。
由人工智能初創(chuàng)公司 Hugging Face 搭建的BLOOM模型 ，有1760億參數(shù)，光是前期訓(xùn)練它，就得花掉43.3萬(wàn)度電。2022年，我國(guó)居民年人均用電量是948度電，BLOOM訓(xùn)練階段用的電就相當(dāng)于456個(gè)人一年的用電量。GPT-3的耗電量更夸張，訓(xùn)練一次需要128.7度電，相當(dāng)于 3000輛特斯拉同時(shí)跑 32 公里。
這還只是訓(xùn)練階段的用電量，越往后走推理才是用電量的大頭。據(jù)IDC預(yù)測(cè)，2023年AI服務(wù)器訓(xùn)練需求占比達(dá)41.5%，隨著大模型的應(yīng)用，該比例在2025年將降低至39.2%。
對(duì)于大模型在訓(xùn)練階段的用電量，晚點(diǎn)做過(guò)一個(gè)測(cè)算：
按ChatGPT日咨詢量2.7億次、月咨詢量接近80億次計(jì)算，已知 1 張 A100 GPU 推理 1 個(gè)單詞大約需要 0.35 秒。假設(shè)每個(gè)提問(wèn)長(zhǎng)度約30個(gè)字/單詞，則ChatGPT每天需要處理80億字咨詢量，用一張A100 GPU來(lái)跑需要約78萬(wàn)小時(shí)，對(duì)應(yīng)每天需要約3.24萬(wàn)張A100 GPU。
前述 3.24 萬(wàn)張 A100 GPU 大約等同于 4000 臺(tái)英偉達(dá) DGX A100 服務(wù)器（搭載 8 張 A100 GPU），后者最大功率為 6.5 kW，單月耗電量約為 1872 萬(wàn) kWh。
每處理一次用戶請(qǐng)求的耗電量，相當(dāng)于 60 瓦的燈泡亮 140 秒。這樣一來(lái)，項(xiàng)目光是電費(fèi)就得交近 200 萬(wàn)美元。2022年中國(guó)居民人均生活用電約79kWh/ 月，ChatGPT 單月耗電量差不多跟 23.7萬(wàn)中國(guó)人相當(dāng)。
如果生成式AI被進(jìn)一步采用，耗電量可能會(huì)更多。在互聯(lián)網(wǎng)時(shí)代，僅僅用于數(shù)據(jù)存儲(chǔ)的數(shù)據(jù)中心每年耗電增速和耗電占比數(shù)據(jù)基本維持線性增長(zhǎng)。據(jù)統(tǒng)計(jì)，2022年全國(guó)數(shù)據(jù)中心總耗電量約2700億千瓦時(shí)，占全社會(huì)用電量的3.1%，超過(guò)兩座三峽水電站年發(fā)電量。
但到了AI時(shí)代，能耗變成了幾何式上升的趨勢(shì)。舉個(gè)例子，假設(shè)生成式AI被集成到谷歌的每一個(gè)搜索中，屆時(shí)谷歌就會(huì)大幅增加對(duì)電力的需求。
據(jù)SemiAnalysis 估算，在每次谷歌搜索中實(shí)施類似 ChatGPT的人工智能將需要51.28萬(wàn)個(gè)英偉達(dá)A100 HGX服務(wù)器，總計(jì)410.26萬(wàn)個(gè)GPU，如果每臺(tái)服務(wù)器的電力需求為6.5千瓦，意味著每年29.2太瓦時(shí)的電力消耗（292億度電），相當(dāng)于2021年美國(guó)全社會(huì)總用電量的0.77%。
考慮到搜索只是一個(gè)AI應(yīng)用場(chǎng)景，后續(xù)隨著AI應(yīng)用的增加，人工智能行業(yè)的耗電量將出現(xiàn)巨大增長(zhǎng)。 荷蘭國(guó)家銀行數(shù)據(jù)科學(xué)家亞歷克斯·德弗里斯在一篇論文中估計(jì)，到2027年，整個(gè)人工智能行業(yè)每年將消耗85至134太瓦時(shí)(1太瓦時(shí)=10億千瓦時(shí))的電力。
/ 03 / 為什么大佬押注核聚變？
怎么解決AI面臨的能源危機(jī)？大佬們很快找到了一個(gè)答案——核聚變。
據(jù)國(guó)際原子能機(jī)構(gòu)給出的定義，核聚變是模仿太陽(yáng)的原理，使兩個(gè)較輕的原子核結(jié)合成一個(gè)較重的原子核，結(jié)合期間釋放出大量能量。與化石能源相比，聚變反應(yīng)不排放二氧化碳；并且與當(dāng)前通常意義上的核能——核裂變能相比，它既不會(huì)產(chǎn)生核廢料，輻射也極少。
近年來(lái)，核聚變研究取得了不少積極進(jìn)展。去年2月，設(shè)在英國(guó)牛津的歐共體聯(lián)合聚變中心（JET）實(shí)驗(yàn)室科學(xué)家在實(shí)驗(yàn)中產(chǎn)生了平均11兆瓦的功率輸出，足夠供應(yīng)1萬(wàn)個(gè)家庭使用。
由于核聚變存在巨大的想象空間，引得不少大佬下注。作為AGI的堅(jiān)定信徒之一，奧特曼目前總共投了兩家能源公司——Helion、Oklo。
其中，2021年奧特曼以個(gè)人名義豪擲3.75億美元，領(lǐng)投了核聚變公司Helion價(jià)值5億美元的E輪融資，并稱這是自己有史以來(lái)“最大的賭注”。除了阿爾特曼，Helion還獲得了“硅谷創(chuàng)投教父”彼得·蒂爾、Facebook聯(lián)合創(chuàng)始人達(dá)斯汀·莫斯科維茨、領(lǐng)英創(chuàng)始人里德·霍夫曼、eBay第一任總裁杰夫·斯科爾等人的6億美元投資。
公開(kāi)資料顯示，Helion Energy是一家核聚變初創(chuàng)公司。他們正在開(kāi)發(fā)一種磁慣性聚變技術(shù)，通過(guò)非中子聚變產(chǎn)生氦 3 和聚變能，從而可以使用僅從水中提取的燃料產(chǎn)生低成本的清潔電能。
2023年5月，微軟宣布和Helion Energy簽署了購(gòu)電協(xié)議，將于2028年向Helion購(gòu)買其核聚變發(fā)電廠的50兆瓦電力。在這份購(gòu)電協(xié)議中Helion表示， 2028 年前上線的核聚變裝置，在一年內(nèi)會(huì)把發(fā)電功率提升到50兆瓦以上，能夠撐起 40000戶家庭的供電。Helion首席執(zhí)行官大衛(wèi)·柯特利說(shuō)，公司的目標(biāo)是有一天將成本降低到每千瓦時(shí)1美分，即1度電0.07元人民幣。
除了奧特曼外，貝索斯則向加拿大的核聚變能源初創(chuàng)公司General Fusion進(jìn)行了投資。據(jù)了解，General Fusion通過(guò)使用兩種混合聚變技術(shù)（磁性和慣性約束），在磁場(chǎng)中約束氫同位素等離子，然后利用高壓，使之產(chǎn)生高溫及高的密度。
有趣的是，在核聚變這條賽道，并沒(méi)有看到馬斯克的身影。原因是，馬斯克認(rèn)為，最好的能源問(wèn)題終極方案，是利用太陽(yáng)能（風(fēng)能本質(zhì)也是太陽(yáng)能的一種），而不是不計(jì)成本去搞人造太陽(yáng)。
從大模型開(kāi)閉源到未來(lái)能源的方向，馬斯克又一次做出了與奧特曼不同的選擇，競(jìng)爭(zhēng)還在繼續(xù)。