編譯 | 芯東西 尹明順
編輯 | 漠影
芯東西9月13日消息,據(jù)The Information報道,軟件巨頭甲骨文公司(Oracle Cloud Infrastructure)高級副總裁 Karan Batta稱,盡管英偉達在銷售人工智能數(shù)據(jù)中心芯片方面蓬勃發(fā)展,但一些開發(fā)AI的客戶正在轉(zhuǎn)向規(guī)模較小的競爭對手AMD。
甲骨文公司認同英偉達在芯片市場上的優(yōu)勢地位,但同時認為需要加入一些競爭來可控硬件開發(fā)成本。
英偉達產(chǎn)品存在提升價格可能,許多客戶為此陷入擔憂。
甲骨文高管稱,AMD硬件能夠有效幫助公司防范因英偉達芯片供應(yīng)短缺出現(xiàn)的危機,而這類短缺問題,在去年的絕大多數(shù)時間都存在過。
除了甲骨文公司外,微軟等云服務(wù)商也有減少對AI計算巨頭英偉達依賴的意向。
一、英偉達斷供成常態(tài),客戶紛紛轉(zhuǎn)向AMD
Karan Batta說:“我們發(fā)現(xiàn),芯片推理的達成并不一定非要綁定在某個特定供應(yīng)商。”Karan Batta認為,隨著英偉達在服務(wù)器芯片市場上一騎絕塵,需要競爭來降低硬件成本。
無論是自主開發(fā)AI應(yīng)用這一層面,還是向軟件供應(yīng)商采購此類應(yīng)用層面,增強競爭都將使企業(yè)能夠控制AI推理成本。
AMD在2023年推出的最新旗艦服務(wù)器芯片可能不如英偉達在2022年推出的最新旗艦產(chǎn)品H100強大,但甲骨文和微軟的高管們認為,他們別無選擇,只能支持AMD以促進競爭。Karan Batta補充道:“AMD正在投入大量精力,并且在提升芯片性能方面做得很好。”
Karan Batta認為,甲骨文公司使用AMD硬件還有助于其防范未來英偉達潛在的供應(yīng)短缺問題。此類短缺在去年大部分時間都發(fā)生過。
Karan Batta拒絕透露具體細節(jié)或客戶名稱,但他的評論表明甲骨文公司希望減少對AI計算巨頭英偉達的依賴,這一做法與微軟等其他云服務(wù)提供商類似。
此外,用于推理的英偉達芯片租賃成本一直在下降,但其下一代旗艦AI芯片可能會改變這一現(xiàn)狀。其他英偉達客戶也私下表達了類似的擔憂,他們擔心如果AMD或其他公司不搶占英偉達的市場份額,英偉達產(chǎn)品將繼續(xù)保持高昂的價格。
雖然到目前為止,這種情況還沒有真正發(fā)生。
AMD稱,與去年同期相比,其數(shù)據(jù)中心收入在6月當季增長了115%,達到28了億美元,而英偉達的數(shù)據(jù)中心收入在7月當季增長了154%,達到了263億美元。
二、甲骨文正與OpenAI、xAI開展合作,著力提升芯片集群規(guī)模
與此同時,甲骨文和其他云服務(wù)提供商正在蓬勃發(fā)展,他們向OpenAI和埃隆·馬斯克的xAI等客戶出租了更多英偉達服務(wù)器。
在美國的服務(wù)器租賃市場中,甲骨文公司排在亞馬遜的Amazon云服務(wù)、微軟Azure云科技和谷歌云之后,位列第四。甲骨文公司從這項業(yè)務(wù)中獲得了24億美元的收入,同比增長45%。
甲骨文公司進入云計算領(lǐng)域相對較晚,但有些幸運,因為去年正值A(chǔ)I初創(chuàng)公司爭相搶購云服務(wù)器的熱潮。甲骨文公司沒有開發(fā)類似OpenAI GPT-4的大型語言模型,故而對于AI開發(fā)客戶不構(gòu)成競爭威脅,這使它在市場顯現(xiàn)出了優(yōu)勢。
現(xiàn)在,甲骨文公司正在尋求在AI模型訓(xùn)練市場占據(jù)更大份額,聯(lián)合創(chuàng)始人拉里·埃里森(Larry Ellison)在周一表示,甲骨文公司正在設(shè)計一座容量超過10億瓦特的數(shù)據(jù)中心,它足以為像舊金山這樣的城市供電。
Karan Batta拒絕透露該數(shù)據(jù)中心的細節(jié)也未公布何時投入運營。他稱,為了支持其擴張,甲骨文公司將提升串聯(lián)AI芯片集群的能力,使它們能夠像單臺計算機一樣工作,這是訓(xùn)練新大型語言模型的理想設(shè)置。
這些改進包括改變甲骨文公司冷卻發(fā)熱芯片的方式,以及為電纜建造隧道,以便將不同建筑中的芯片連接起來,使它們不必全部位于同一地點。
他說,甲骨文計劃將芯片集群規(guī)模擴大至少一倍,從6.4萬個GPU增加到12.8萬個以上。但他沒有說明具體時間。
此外, Karan Batta認為,即使初創(chuàng)公司使用其他云服務(wù)來開發(fā)其核心模型,甲骨文公司仍然可以從人工智能培訓(xùn)的需求中受益。
例如,這些公司還需要其他用途的硬件,如微調(diào),開發(fā)人員會在其中對特定任務(wù)的模型進行優(yōu)化。
Karan Batta稱,一些AI公司正在購買訪問舊芯片的權(quán)利來處理這些工作負載。
據(jù)The Information人工智能數(shù)據(jù)中心數(shù)據(jù)庫顯示,甲骨文公司可能與OpenAI和微軟達成了一項協(xié)議,將在明年使用美國德克薩斯州的一座設(shè)施,但 Karan Batta拒絕就具體公司對此事發(fā)表評論。
結(jié)語:越挫越勇?自稱AI計算能力名列前茅
最近,甲骨文公司受挫,因馬斯克決定在美國孟菲斯建造自己的GPU集群,而不是從甲骨文公司租用,因為該公司無法快速建立數(shù)據(jù)中心。
Karan Batta認為,現(xiàn)在判斷xAI是否能在甲骨文之前更快地完成由10萬個H100芯片組成的Colossus集群,還為時過早。
“我沒有一個比較的基準。我們比xAI快得多嗎?還是慢得多?……我認為,與其他云服務(wù)提供商比較而言,我們會覺得自己在AI計算能力方面是最快的之一?!?/p>
來源:The Information