文|新火種 文子
編輯|小迪
手握60萬塊GPU,扎克伯格ALL IN AGI
繼 OpenAI和谷歌先后放出大招后,扎克伯格也做出了讓整個科技圈震驚的舉動。
在最新的一條視頻里,扎克伯格毫不掩飾自己的野心。他表示,Meta從2024年開始將不惜一切代價ALL IN AI,尤其是在所有領(lǐng)域都能達(dá)到甚至超越人類的通用人工智能AGI。
按照扎克伯格的說法,Meta的長期愿景就是構(gòu)建通用智能,讓每個人都能受益。為了達(dá)到這一目的,Meta將在2024年年底前購買約35萬塊英偉達(dá)的H100 GPU芯片,用來解決全球AI算力的供應(yīng)緊缺問題。以目前的市場價來算,一塊H100芯片大概3萬美金,35萬塊H100也就是105億美金,約合750億人民幣,幾乎相當(dāng)于小半個京東的市值。
根據(jù)外部數(shù)據(jù)統(tǒng)計,2023年Meta的H100出貨量累計達(dá)到了15萬,與它平齊可以打造同等算力的公司只有微軟,而這個規(guī)模已經(jīng)比其他所有公司高出了至少三倍。如果將英偉達(dá)A100和其他AI芯片也算在內(nèi),到2024年底Meta將擁有近60萬個GPU儲備,以遙遙領(lǐng)先的數(shù)量遠(yuǎn)超其他公司。
扎克伯格的目的就是用這幾十萬塊GPU芯片,建立出一個全世界最大的人工智能系統(tǒng),從而實現(xiàn)AGI。
事實上,有這種想法的并不止扎克伯格一個人。據(jù)透露,山姆奧特曼執(zhí)掌的OpenAI也計劃用1000萬塊GPU對人類所有的知識和數(shù)據(jù)進行再次計算,這個量級將遠(yuǎn)遠(yuǎn)超過目前的10萬GPU量級,放大了100倍。
有行業(yè)人士分析,按照這種指數(shù)級別的發(fā)展,AGI很有可能在未來的一兩年就會到來。
加緊訓(xùn)練Llama 3,比GPT-5更快到來?
除了ALL IN AGI以外,扎克伯格還帶來了一個重磅消息,即Meta正在加緊訓(xùn)練下一代LLM Llama 3。
按照扎克伯格的說法,為了訓(xùn)練Llama 3,現(xiàn)有的兩個AI研究工作(FAIR 和GenAI)將合力推進。FAIR將從Reality Labs變成產(chǎn)品部門的一部分,主管Joelle Pineau及首席科學(xué)家Yann LeCun也將由技術(shù)長Andrew Bosworth轄下改向產(chǎn)品主管Chris Cox報告。
據(jù)內(nèi)部員工透露,這次變動將使AI研究成為公司及產(chǎn)品的關(guān)鍵元素,F(xiàn)AIR及生成式AI整合可以讓公司有一致化的AI研究布局及藍(lán)圖,而Llama也將成為Meta公司向AGI前進的最佳利器。
考慮到英偉達(dá)在2022年發(fā)布的H100中,每臺包含800億個晶體管,速度比之前的型號快6倍,內(nèi)存帶寬高達(dá)每秒3tb。也就是說,一臺超級計算機Eos就相當(dāng)于4600個H100,而Meta的算力將相當(dāng)于Eos的130倍。
按照這個數(shù)字計算,扎克伯格的大規(guī)模人工智能算力將有4.8e+16個晶體管,也就是48千萬億個。如此強大的算力,也讓扎克伯格更有信心能夠訓(xùn)練出更好的Llama 3大模型。
關(guān)于Llama 3的細(xì)節(jié),扎克伯格只說模型未來將會能自己撰寫程式碼,也將具有進階推理及規(guī)畫的能力,其他并沒有過多透露。
不過,扎克伯格提到了另一個東西,智能眼鏡。他認(rèn)為,智能眼鏡將是重要設(shè)備,幫助人類與AI溝通,并將AI和元宇宙結(jié)合在一起,其與雷朋合作開發(fā)的智能眼鏡已經(jīng)有了顯著的進展。
至于Llama 3的發(fā)布時間,扎克伯格很可能想要比GPT-5更快出來。
據(jù)了解,OpenAI首席執(zhí)行官山姆奧特曼此前在達(dá)沃斯論壇接受媒體采訪時表示,他現(xiàn)在的首要任務(wù)就是推出下一代大模型GPT-5,與現(xiàn)有模型相比,GPT-5能做更多、更多的事情。所以扎克伯格選擇在此時大力購買芯片,研發(fā)Llama 3的動機就顯得更加迫切。
暗諷OpenAI不open,Meta將構(gòu)建開源AGI
到目前為止,Meta一直遵循著Llama的開源發(fā)展路線。
在扎克伯格看來,有價值的東西就應(yīng)該開源,這樣才可以解決許多可能源自機會和價值不平等的問題,才不會陷入過度集中的局面。所以對于AGI,扎克伯格依舊是秉承著開源的想法,并沒有任何改變。
他表示,雖然有許多公司曾經(jīng)是開放的,曾經(jīng)發(fā)布過他們的所有研究成果,并討論過他們將如何開源所有的技術(shù)。但現(xiàn)在,很多人不能否認(rèn)一個事實,那就是一個非常有價值的東西,許多公司并不想與人分享。
他甚至直接表達(dá)自己的懷疑,他覺得在很多情況下,那些一開始就擁有最大領(lǐng)先優(yōu)勢的大公司也是那些呼吁設(shè)置最多護欄的公司。這其中一些人可能確實是關(guān)心安全問題,但這與他們的戰(zhàn)略有多大關(guān)系,值得商榷。
雖然扎克伯格這兩句話沒有直接點名OpenAI,但還是讓不少人感覺意有所指,畢竟OpenAI不open一直以來就是業(yè)內(nèi)爭議的話題。
OpenAI首席科學(xué)家曾說過,開源并不明智,我們之前錯了。這一句話也印證了OpenAI封閉的事實,這也讓很多人不滿意。不少人拿出了當(dāng)初OpenAI成立時的宣言來諷刺,甚至馬斯克也對此事也或多或少的表示過不滿。
盡管按照山姆奧特曼和其他人的說法,更封閉的AI開發(fā)方法也更加安全,但這在扎克伯格眼里,就是精明的商業(yè)策略。他認(rèn)為,目前拋開公平談模型安全還為時尚早。
當(dāng)然,扎克伯格也有自己的動機。一旦未來Meta真的實現(xiàn)了AGI,他對AI的開放愿景最終是否也會導(dǎo)致權(quán)力的集中,這點他也無法保證。
畢竟從規(guī)模來說,Meta已經(jīng)擁有了最多的用戶,比幾乎所有公司都多,并且還有一個利潤豐厚的社交媒體業(yè)務(wù)。AI的特性可以使它的平臺更加吸引人、更加有用。如果Meta能夠通過公開發(fā)布其模型來規(guī)范AI的發(fā)展,那么它對整個生態(tài)系統(tǒng)的影響力只會越來越大。
可以預(yù)見的是,2024年Meta將因AI變得更加強大,開源更多的重磅產(chǎn)品造福全球開發(fā)者和企業(yè)。而AGI的到來,還需些時日。