正在閱讀:

干貨32分鐘:比爾·蓋茨和山姆·奧特曼都說(shuō)了些什么?

掃一掃下載界面新聞APP

干貨32分鐘:比爾·蓋茨和山姆·奧特曼都說(shuō)了些什么?

未來(lái)5到10年,現(xiàn)在的大模型會(huì)顯得“愚蠢不堪”。

文|適道

如果讓你列舉人工智能領(lǐng)域的領(lǐng)軍人物,有一個(gè)名字你可能會(huì)聽(tīng)得最多:山姆·奧特曼(Sam Altman)。但如果讓你列舉軟件時(shí)代的巨擘,則一定會(huì)出現(xiàn)比爾·蓋茨(Bill Gates)的大名。

1月12日,OpenAI的CEO山姆·奧特曼(Sam Altman)作為特邀嘉賓,參加了由比爾·蓋茨(Bill Gates)主持的播客節(jié)目《為我解惑》(Unconfuse Me)。在這期節(jié)目中,兩位不同時(shí)代的先導(dǎo)者,共同探討了人工智能的現(xiàn)在及未來(lái)、對(duì)人類社會(huì)的影響、人工智能監(jiān)管的形式,以及各自對(duì)個(gè)人和團(tuán)隊(duì)發(fā)展的建議等等。

整場(chǎng)對(duì)話長(zhǎng)達(dá) 32分鐘,信息量巨大。其中包括:1、未來(lái)兩年間,GPT模型的關(guān)鍵里程碑將是多模態(tài),即涉及語(yǔ)音、圖像和視頻等多個(gè)模式的生成和表達(dá);2、大模型將在推理、定制化、個(gè)性化、自適應(yīng)等方面極大發(fā)展;3、人工智能將在編程、醫(yī)療、教育等領(lǐng)域提高生產(chǎn)力,解放人類創(chuàng)作力;4、未來(lái)5到10年,對(duì)人工智能的訓(xùn)練效率和準(zhǔn)確性理解將取得更多進(jìn)展,現(xiàn)有的大模型會(huì)顯得“愚蠢不堪”;5、當(dāng)前大模型正處于最快速的成本下降曲線上,這將成為社會(huì)轉(zhuǎn)型的關(guān)鍵;6、長(zhǎng)出了人工智能做“大腦”的機(jī)器人產(chǎn)業(yè)很可能影響勞動(dòng)力市場(chǎng),尤其是藍(lán)領(lǐng)工作等等。

值得注意的是,雖然兩位大佬在交談中沒(méi)有發(fā)生明顯的碰撞,但二者的立場(chǎng)態(tài)度似乎有所不同。例如,Altman對(duì)人類社會(huì)適應(yīng)人工智能保持樂(lè)觀態(tài)度,并暗示——人工智能可以解放人類創(chuàng)造力,而不是搶占人類的工作機(jī)會(huì);而B(niǎo)ill Gates似乎更擔(dān)心人工智能所帶來(lái)的負(fù)面影響。此外,和Altman相對(duì)激進(jìn)的風(fēng)格不同,Bill Gates更多是作為拋出問(wèn)題的采訪者和傾聽(tīng)者。

適道對(duì)完整版訪談進(jìn)行了簡(jiǎn)譯。為方便大家絲滑閱讀,改寫、刪除了一些不影響原文內(nèi)容的表達(dá)。

01 開(kāi)場(chǎng)——重提OpenAI政變

Bill Gates:今天的嘉賓是Sam Altman。他是 OpenAI的首席執(zhí)行官。長(zhǎng)期以來(lái),他一直是科技行業(yè)的創(chuàng)業(yè)者和領(lǐng)導(dǎo)者,包括經(jīng)營(yíng) Y Combinator,這家公司做了很多了不起的事情,比如投資 Reddit、Dropbox、Airbnb。

在我錄制節(jié)目不久后,Altman被解除了 OpenAI 首席執(zhí)行官的職務(wù),解雇后的幾天內(nèi)發(fā)生了很多事情,包括幾乎所有 OpenAI 員工聯(lián)名支持Sam回歸,而現(xiàn)在,Sam又回來(lái)了。所以,在你聽(tīng)到我們的對(duì)話之前,讓我們先來(lái)了解一下Sam,看看他現(xiàn)在過(guò)得怎么樣。

Bill Gates:你還好嗎?

Sam Altman:哦,天哪。這真的太瘋狂了,我還好。這是一個(gè)非常激動(dòng)人心的時(shí)期。

Bill Gates:團(tuán)隊(duì)情況怎么樣?

Sam Altman:我猜,很多人都注意到了這樣一個(gè)事實(shí),那就是團(tuán)隊(duì)從未如此高效、樂(lè)觀、出色。這也正是所有事情背后的一絲慰藉。在某種意義上,這是我們成長(zhǎng)的真正時(shí)刻,我們非常有動(dòng)力變得更好,變成一個(gè)全副武裝,迎接挑戰(zhàn)的公司。

Bill Gates:太棒了。所以,我們?cè)趯?duì)話中不會(huì)討論那件事。然而,你會(huì)聽(tīng)到Sam致力于建立一個(gè)安全、負(fù)責(zé)任的人工智能的承諾。我希望你喜歡這次對(duì)話。歡迎來(lái)到《為我解惑(Unconfuse Me)》。我是Bill Gates。

Bill Gates:今天,我們將主要聚焦于人工智能,因?yàn)樗绱肆钊伺d奮,人們同時(shí)也對(duì)它感到擔(dān)憂。歡迎,Sam。

Sam Altman:非常感謝你邀請(qǐng)我來(lái)參加節(jié)目。

02 回顧——ChatGPT源于結(jié)果先行

Bill Gates:我有幸見(jiàn)證了你們的工作進(jìn)展,但剛開(kāi)始時(shí),我其實(shí)非常懷疑,也沒(méi)期待過(guò) ChatGPT 能做得這么好。實(shí)際上,我們并不懂這種編碼形式。我們知道數(shù)字,看到它相乘,但如何將莎士比亞的作品編碼?你認(rèn)為我們能對(duì)這種表達(dá)產(chǎn)生更深的理解嗎?

Sam Altman:百分之百可以。要在人腦中做到這一點(diǎn)非常難??梢哉f(shuō),這是一個(gè)相似的問(wèn)題,這些神經(jīng)元彼此相連。但連接在變化,我們不可能切開(kāi)大腦來(lái)觀察,但我們可以完美地透視。

目前,我們?cè)诳山忉屝裕╥nterpretability)方面,已經(jīng)展開(kāi)了一些非常棒的工作,而且我認(rèn)為隨著時(shí)間推移,會(huì)有更多的解釋出現(xiàn)。我們將能夠理解這些(神經(jīng))網(wǎng)絡(luò),即便我們目前的理解能力還很低。而正如你所樂(lè)見(jiàn)的一切,我們憑著目前了解的那一點(diǎn),已經(jīng)能很大程度上改進(jìn)人工智能模型了。

所以,撇開(kāi)科學(xué)好奇心不談,我們都有動(dòng)力去真正地了解它們,盡管它們的規(guī)模是如此龐大。我們甚至還可以說(shuō),莎士比亞的作品是在你大腦的哪個(gè)位置編碼的,又是如何表現(xiàn)的?

Bill Gates:我們不知道。

Sam Altman:我們確實(shí)不知道。可以說(shuō),在這些我們本應(yīng)能夠完美透視、觀察并進(jìn)行任何測(cè)試的大量數(shù)據(jù)中,現(xiàn)在我們還是找不到答案,這就讓人興致缺缺。

Bill Gates:我非常確信,在接下來(lái)的五年內(nèi),我們會(huì)理解它(LLMs)。就訓(xùn)練效率和準(zhǔn)確性而言,這種理解將讓我們未來(lái)做的比今天能做的好得多。

Sam Altman:百分之百同意。你會(huì)在眾多技術(shù)的發(fā)展歷程中看到這一點(diǎn)。即,人們雖然不知道所以然,但在結(jié)果上卻又行得通。而此后,隨著人們對(duì)科學(xué)理解的加深,這項(xiàng)技術(shù)也會(huì)變得更好。

Bill Gates:是的,在物理學(xué)、生物學(xué)中,有時(shí)只是隨便一通亂試,然后就“哇”的一聲——這究竟是怎么實(shí)現(xiàn)的?

Sam Altman:在我們以往的案例中,構(gòu)建 GPT-1 的那個(gè)人自己解決了這個(gè)“哇”的問(wèn)題,這令人印象深刻。只不過(guò),我們沒(méi)有深入理解它是如何工作的,以及為何是有效的。之后,我們才有了拓展規(guī)律,借此預(yù)測(cè)它(GPT)會(huì)變得多好。

這就是為什么當(dāng)我們告訴你可以做演示時(shí),我們相當(dāng)有信心。雖然當(dāng)時(shí)我們還沒(méi)有訓(xùn)練模型,但我們信心十足。后來(lái)我們做了大量嘗試,并對(duì)正在發(fā)生的事情有了越來(lái)越深入的科學(xué)理解。但現(xiàn)在從頭來(lái)看,這(GPT)確實(shí)源于實(shí)證結(jié)果先行。

03 展望——未來(lái)兩年主旋律:多模態(tài)、推理性、可靠性、個(gè)性化、自適應(yīng)

Bill Gates:當(dāng)你展望未來(lái)兩年,你認(rèn)為,在人工智能發(fā)展上,會(huì)出現(xiàn)哪些重要的里程碑?

Sam Altman:多模態(tài)(Multimodality)肯定會(huì)很重要。

Bill Gates:你指的是語(yǔ)音輸入、語(yǔ)音輸出?

Sam Altman:語(yǔ)音輸入、語(yǔ)音輸出,然后是圖像,最終是視頻。顯然,人們是真的需要這些。我們已經(jīng)推出了圖像和音頻,反響比我們的預(yù)期要強(qiáng)烈得多。我們將會(huì)進(jìn)一步推進(jìn)這些功能,但也許,最關(guān)鍵的進(jìn)步將圍繞推理能力展開(kāi)。

現(xiàn)在, GPT-4 的推理能力和可靠性還非常有限。比方說(shuō),對(duì)于大部分問(wèn)題,如果你問(wèn) GPT-4 10000 次,這10000 次中可能有一次回答得很好,但 GPT-4不一定知道這是哪一次。而你卻希望自己的每次詢問(wèn),都能得到這 10000 次中最好的回答。因此,GPT可靠性的提升將非常重要。

可定制性和個(gè)性化也非常重要。人們對(duì) GPT-4 的需求各不相同:不同的風(fēng)格,不同的假設(shè)集,我們將會(huì)讓所有的這些成為可能,還能讓GPT-4 使用你自己的數(shù)據(jù)。它會(huì)足夠了解你、了解你的電子郵件、你的日歷、你喜歡的預(yù)約方式,并與其他外部數(shù)據(jù)源連接,所有這些都將是最重要的改進(jìn)領(lǐng)域。

Bill Gates:在目前的基礎(chǔ)算法中,GPT只是在做簡(jiǎn)單的前饋、乘法。所以,看起來(lái)是生成了每一個(gè)新詞,但它本質(zhì)上都在做同樣的事情。我很感興趣的點(diǎn)是,如果你們最終能解出復(fù)雜數(shù)學(xué)方程等難題,那么你們可能要做多次應(yīng)用變換,這時(shí)候,用于推理的控制邏輯可能比我們今天所做的要復(fù)雜得多。

Sam Altman:至少,我們似乎需要某種形式的自適應(yīng)計(jì)算?,F(xiàn)在,我們?cè)诿總€(gè)問(wèn)題上都花費(fèi)相同的計(jì)算量,無(wú)論是做一道簡(jiǎn)單題還是一道復(fù)雜的數(shù)學(xué)題。

Bill Gates:是的,比如說(shuō),「解決黎曼假設(shè)……」

Sam Altman:那可要進(jìn)行大量計(jì)算。

Bill Gates:但它所使用的計(jì)算量跟寫個(gè)“The”一樣?

Sam Altman:對(duì),我們至少得讓它能進(jìn)行下去。我們還需要在這之上解決更復(fù)雜的東西。

04 監(jiān)管——效仿國(guó)際原子能機(jī)構(gòu)(IAEA)

Bill Gates:我們倆都參加過(guò)一個(gè)參議院的教育會(huì)議,很高興大約有 30 名參議員都參加了那次會(huì)議。畢竟(人工智能)是一個(gè)如此重大的變革,我不認(rèn)為我們?cè)谖完P(guān)注這方面做的太過(guò)。當(dāng)你談?wù)摫O(jiān)管時(shí),你是否清楚要構(gòu)建哪種類型的監(jiān)管?

Sam Altman:我們已經(jīng)開(kāi)始解決這個(gè)問(wèn)題了。對(duì)人工智能領(lǐng)域進(jìn)行過(guò)度監(jiān)管是非常容易的,你可以看到,過(guò)去許多此類事情在發(fā)生。如果我們是正確的,并且人工智能能夠發(fā)展到我們所設(shè)想的那樣,即——影響社會(huì)、地緣政治力量的平衡,以及很多事情。

對(duì)于這些仍然是假設(shè)性的,但未來(lái)極其強(qiáng)大的人工智能——不是說(shuō) GPT-4,而是針對(duì)計(jì)算能力是GPT-4的 10 萬(wàn)倍或 100 萬(wàn)倍的系統(tǒng),我們已經(jīng)接受了一個(gè)全球監(jiān)管機(jī)構(gòu)的想法,這個(gè)機(jī)構(gòu)將緊盯這些超級(jí)強(qiáng)大的系統(tǒng),因?yàn)樗鼈兇_實(shí)會(huì)產(chǎn)生如此大的全球影響。

我們談?wù)摰囊环N模式是類似國(guó)際原子能機(jī)構(gòu)(IAEA)。例如,在“核能”方面,我們做出了同樣的決定。而由于人工智能潛在的全球影響力,需要一個(gè)全球性的機(jī)構(gòu)(監(jiān)管)。我認(rèn)為這是合理的。當(dāng)然,在此期間會(huì)出現(xiàn)很多短期問(wèn)題,比如可以說(shuō)什么,不可以說(shuō)什么;我們?nèi)绾慰创鏅?quán)問(wèn)題,對(duì)此,不同的國(guó)家會(huì)有不同的考慮,這都沒(méi)問(wèn)題。

Bill Gates:一些人認(rèn)為,如果存在如此強(qiáng)大的模型,我們就會(huì)對(duì)此感到害怕——全球核監(jiān)管之所以行之有效,是因?yàn)槊總€(gè)人,至少在民用方面,都希望共享安全實(shí)踐,這一點(diǎn)做得非常好。

而當(dāng)涉及核武器時(shí),就不會(huì)出現(xiàn)這種情況了。因?yàn)閱?wèn)題的關(guān)鍵在于,阻止整個(gè)世界做危險(xiǎn)的事情,就需要有全球政府(合作)。但從目前我們所能看到的眾多問(wèn)題中,例如氣候問(wèn)題、恐怖主義,你可以看到我們(全球政府)很難達(dá)成合作。人們甚至援引中美競(jìng)爭(zhēng),來(lái)解釋任何放緩的想法都是不對(duì)的。難道說(shuō),任何放慢腳步的想法,或者說(shuō)放慢腳步以求謹(jǐn)慎,都很難實(shí)施嗎?

Sam Altman:是的,我認(rèn)為要求放慢發(fā)展速度是非常困難的。如果改成“做你想做的事,但任何計(jì)算集群都不能超過(guò)一個(gè)特定、極高的功率門檻”——鑒于巨大的成本,我們可能只會(huì)看到五個(gè)這樣的模型——任何這樣的集群都必須接受類似國(guó)際武器檢查員的審查。該模型必須可供安全審核,在訓(xùn)練期間和部署之前通過(guò)一些測(cè)試。我覺(jué)得這是可能的。

我以前還不太確定以上想法是否可實(shí)現(xiàn),但今年(2023年),我周游世界各地,并和許多需要參與這一活動(dòng)的國(guó)家的元首交談,幾乎得到了普遍的支持。雖然這不能保證我們能夠脫離一切風(fēng)險(xiǎn)。畢竟,對(duì)于規(guī)模小得多的人工智能系統(tǒng)來(lái)說(shuō),仍然會(huì)出現(xiàn)問(wèn)題。但我認(rèn)為以上舉措可以幫助我們應(yīng)對(duì)人工智能帶來(lái)的最大風(fēng)險(xiǎn)。

05 應(yīng)用——解放人類創(chuàng)造力,尤其是編碼、醫(yī)療、教育領(lǐng)域

Bill Gates:現(xiàn)在,我們看到人工智能帶來(lái)了很多生產(chǎn)力方面的提升,這是非常棒的事情。你最興奮的領(lǐng)域是哪些?

Sam Altman:首先,我始終認(rèn)為,我們正處于一條漫長(zhǎng)、連續(xù)的發(fā)展曲線上?,F(xiàn)在,我們擁有了可以執(zhí)行任務(wù)的人工智能。當(dāng)然,雖然它們不能完成一份完整的工作(一個(gè)崗位能做的所有事情),但它們可以完成一些任務(wù),并提高人類員工的生產(chǎn)力。最終,人工智能將能從事更多今天人類所做的工作,而我們?nèi)祟惍?dāng)然也會(huì)找到新的、更好的工作。

我完全相信,如果你為人類提供更強(qiáng)大的工具,人類不僅僅可以工作得更快,還可以做一些質(zhì)變的工作。比如現(xiàn)在,我們可以將程序員的工作速度提高三倍。這就是我們所看到的,也是我們最興奮的領(lǐng)域之一,人工智能做得非常好。

但是,如果你能讓程序員的效率提高三倍,那么,程序員能做的事情就不僅僅只是(在數(shù)量上)多了三倍。因?yàn)?,人類程序員可以能在更高的抽象層次上,使用更多的腦力去構(gòu)思完全不同的事情。這就好比從打孔卡(punch card)躍升到更高級(jí)的語(yǔ)言,不僅讓我們編程速度更快,還能解放人們做高質(zhì)量的創(chuàng)新事物。大家也看到了這一點(diǎn)。

而當(dāng)我們將目光投向下一代人工智能時(shí),你可以將它想象成一個(gè)小代理(Agent),對(duì)它說(shuō):“幫我寫完整個(gè)程序,我會(huì)在過(guò)程中問(wèn)你幾個(gè)問(wèn)題,不僅僅是一次只寫幾個(gè)函數(shù)這么簡(jiǎn)單”。如此下來(lái),就會(huì)誕生很多新生事物。而它(人工智能)也能做更復(fù)雜的事情。例如,在未來(lái)某天,你可以對(duì)人工智能說(shuō):“幫我建立并運(yùn)營(yíng)這家公司。”“去發(fā)現(xiàn)新的物理學(xué)。”等等。

我認(rèn)為,至少在未來(lái)的五年或十年內(nèi),人工智能技術(shù)將處于一條非常陡峭的成長(zhǎng)曲線上。而在那個(gè)時(shí)候,我們現(xiàn)有的這些模型都會(huì)變成最愚蠢的模型。

編程或許是我們今天感到最興奮的一個(gè)提高生產(chǎn)力的領(lǐng)域。目前,它已經(jīng)被大規(guī)模部署使用。醫(yī)療保健、教育是另外兩個(gè)我們非常期待的快速發(fā)展領(lǐng)域。

06 社會(huì)——機(jī)器人影響勞動(dòng)力市場(chǎng)

Bill Gates:令人生畏的是,與以往的技術(shù)發(fā)展軌跡不同,人工智能的進(jìn)步速度非???,而且沒(méi)有上限。它可以在很多工作領(lǐng)域達(dá)到人類的水平,即使做不出獨(dú)特的科學(xué)研究,它至少能打客服、銷售電話。盡管人工智能是一件好事,但它迫使我們比以往任何時(shí)候都要更快地適應(yīng)這項(xiàng)技術(shù)。

Sam Altman:這才是可怕的地方。并不是說(shuō)我們必須適應(yīng),也不是說(shuō)人類沒(méi)有超強(qiáng)的適應(yīng)能力。在我們經(jīng)歷過(guò)的一些大規(guī)模技術(shù)變革中,人類所從事的大量工作可能是在幾代人的時(shí)間內(nèi)發(fā)生變化,而在這漫長(zhǎng)的時(shí)間中,我們可以很好地消化這些變化。

雖然,每次技術(shù)革命都會(huì)變得更快,但人工智能將是迄今為止最快的一次。這就是我覺(jué)得有點(diǎn)可怕的地方——我們的社會(huì)到底要以何種速度去適應(yīng)人工智能的發(fā)展,應(yīng)對(duì)勞動(dòng)力市場(chǎng)將發(fā)生的變化。

Bill Gates:人工智能的一個(gè)方面是機(jī)器人技術(shù),或者說(shuō)藍(lán)領(lǐng)工作,當(dāng)機(jī)器人具有和人類一樣(靈活)的四肢時(shí),我擔(dān)心人們會(huì)不再關(guān)注藍(lán)領(lǐng)。你如何看待機(jī)器人?

Sam Altman:我對(duì)此非常興奮。我們很早就開(kāi)始研究機(jī)器人,以至于不得不擱置那個(gè)項(xiàng)目。我們一直在處理糟糕的模擬器和肌腱斷裂之類的問(wèn)題。

隨著時(shí)間的推移,我們?cè)絹?lái)越意識(shí)到,(機(jī)器人研發(fā))首先需要解決智能和認(rèn)知問(wèn)題(機(jī)器人的大腦部分),然后才能弄清楚“如何讓‘大腦’適應(yīng)身體的物理特性”的問(wèn)題。而從我們構(gòu)建語(yǔ)言模型的過(guò)程來(lái)看,問(wèn)題從這里開(kāi)始就會(huì)變得容易解決。

我們一直計(jì)劃回到這個(gè)項(xiàng)目(機(jī)器人研發(fā))上來(lái)。目前,我們已經(jīng)對(duì)一些機(jī)器人公司進(jìn)行投資。在物理硬件方面,我也終于第一次看到了真正令人興奮的新平臺(tái)出現(xiàn)。到時(shí)候,我們就能利用自己的模型,就像你剛才說(shuō)的,利用它們的語(yǔ)言理解能力和未來(lái)的視頻理解能力,說(shuō):“好吧,讓我們用機(jī)器人做一些了不起的事情吧?!?/p>

Bill Gates:如果那些已經(jīng)把“腿部”做得很好的硬件人員能把手臂、手掌和手指做出來(lái),我們?cè)侔阉鼈兘M合起來(lái),且價(jià)格不貴得離譜,那么這將會(huì)迅速改變很多藍(lán)領(lǐng)類工作的就業(yè)市場(chǎng)。

Sam Altman:是的。當(dāng)然,如果我們回溯七到十年,大家的共識(shí)是機(jī)器人先會(huì)影響藍(lán)領(lǐng)工作,其次才是白領(lǐng)工作。

創(chuàng)造力工作可能永遠(yuǎn)不會(huì)被影響,要影響也起碼是最后一個(gè),因?yàn)閯?chuàng)造力是魔法,是人類的強(qiáng)項(xiàng)。

顯然,現(xiàn)在的情況可能正好相反。我認(rèn)為這其中有很多有趣的原因能夠解釋。因?yàn)?,在?chuàng)造性工作方面,GPT 模型的幻覺(jué)是一個(gè)功能,而不是缺陷,它能讓你發(fā)現(xiàn)一些新事物。

然而,如果你要讓機(jī)器人移動(dòng)重型機(jī)械,最好能做到非常精確。我認(rèn)為這是一個(gè)必須順應(yīng)技術(shù)發(fā)展的例子。你可能會(huì)有一些先入為主的觀念,但有時(shí)科學(xué)并不往那個(gè)方向發(fā)展。

07 成本——生成式AI使用成本將急速下降

Bill Gates:就公平性而言,技術(shù)通常很昂貴,比如PC或互聯(lián)網(wǎng),成本下降需要時(shí)間。我猜,運(yùn)行這些人工智能系統(tǒng)的成本可不是小數(shù)字,每次評(píng)估的成本會(huì)下降很多?

Sam Altman:已經(jīng)降了很多。GPT-3 是我們推出時(shí)間最長(zhǎng)、優(yōu)化最久的模型,在推出的三年多里,我們已經(jīng)將成本降低了 40 倍。對(duì)于三年的時(shí)間來(lái)說(shuō),這是一個(gè)很好的開(kāi)始。至于GPT-3.5版,我敢打賭,目前我們已經(jīng)將其成本降低了近 10 倍。

因?yàn)镚PT-4 是新產(chǎn)品,我們還沒(méi)有那么多時(shí)間來(lái)降低成本,但我們會(huì)繼續(xù)努力。

我認(rèn)為,在我所知道的所有技術(shù)中,我們的成本下降曲線是最陡峭的,遠(yuǎn)勝于摩爾定律。

這不僅是因?yàn)槲覀兿氤隽巳绾巫屇P透咝У姆椒ǎ€和我們對(duì)研究產(chǎn)生了更深的理解有關(guān),我們可以在更小的模型中獲得更多知識(shí)和能力。未來(lái),我們將會(huì)把智能的成本降低到接近于零的程度,而這對(duì)社會(huì)來(lái)說(shuō),將是一次前無(wú)古人,后無(wú)來(lái)者的變革。

現(xiàn)在,我的世界基本模型由智能成本和能源成本組成(Bill Gates笑了)。如果你能同時(shí)降低這兩方面的成本,你能擁有更多的東西,為人們帶來(lái)更大的改善。我們正處在(降低成本)的曲線上,至少在智能方面,我們將真正實(shí)現(xiàn)這一承諾。

即使按照目前20美元/月的價(jià)格,你就能獲得大量的 GPT-4 訪問(wèn)權(quán)限,而(你獲得的價(jià)值)遠(yuǎn)遠(yuǎn)超過(guò)了 20 美元。我們已經(jīng)降得很低了。

08 觀察——最佳創(chuàng)始人比以往更老一些

Bill Gates:那競(jìng)爭(zhēng)呢?很多人一下子擠進(jìn)這個(gè)賽道是不是很有趣?

Sam Altman:既令人生厭,又充滿動(dòng)力和樂(lè)趣,我相信你也有過(guò)類似的感受。這促使我們做得更快、更好,我們對(duì)自己的方法很有信心。有很多人正滑向冰球所在的位置,而我們也將前往冰球要去的地方。感覺(jué)還可以。

Bill Gates:我認(rèn)為人們會(huì)對(duì) OpenAI的規(guī)模之小感到驚訝。你們有多少員工?

Sam Altman:大約 500 人,我們的規(guī)模還比以前稍微大了一些。

Bill Gates:但還是很小,要是以谷歌、微軟、蘋果的標(biāo)準(zhǔn)來(lái)看。

Sam Altman:確實(shí)很小,我們不僅要做實(shí)驗(yàn)室,現(xiàn)在還要經(jīng)營(yíng)一家真正的企業(yè)和兩款產(chǎn)品。

Bill Gates:你們是一家年輕的公司嗎?

Sam Altman:比平均年齡要大一些。這里不是一群 24 歲的程序員。

Bill Gates:的確,我的視角有些扭曲了,因?yàn)槲乙呀?jīng) 60 多歲了,畢竟你比我年輕。但你說(shuō)得對(duì),你們很多人已經(jīng)四十多歲了。

Sam Altman:三十多歲、四十多歲、五十多歲(的人)。

Bill Gates:這不像早期的蘋果、微軟,那時(shí)我們真的還是孩子。

Sam Altman:對(duì),我也反思過(guò)這個(gè)問(wèn)題。我認(rèn)為現(xiàn)在公司普遍變老了,我不認(rèn)為這是件好事。我在YC想到過(guò)這個(gè)問(wèn)題??赡茈S著時(shí)間的推移,那些最佳的創(chuàng)始人逐漸變老。就我們而言,比平均水平要老一點(diǎn),但仍然如此。

Bill Gates:這很有意思。

09 創(chuàng)業(yè)——聚集頂尖人才,不急于短期收益

Bill Gates:你在 YC 的經(jīng)歷中學(xué)到了很多,我想這對(duì)你現(xiàn)在的工作也是很好的鍛煉。

Sam Altman:非常有幫助。

Bill Gates:包括看到錯(cuò)誤。

Sam Altman:完全正確。實(shí)際上,OpenAI 做了很多和 YC 建議相反的事情。我們花了四年半時(shí)間,才推出了自己的第一個(gè)產(chǎn)品。而在公司成立之初,我們對(duì)產(chǎn)品沒(méi)有任何概念,我們也沒(méi)有和用戶交流(雖然我不建議大多數(shù)公司這樣做)。但在 YC 學(xué)習(xí)并看到這些規(guī)則后,我才明白了——何時(shí)、如何以及為何OpenAI 可以打破這些規(guī)則。我們確實(shí)做了一些與我見(jiàn)過(guò)的其他公司截然不同的事情。

Bill Gates:關(guān)鍵在于你聚集人才,讓他們專注于更大的問(wèn)題,而不是某些短期收益問(wèn)題。

Sam Altman:我認(rèn)為硅谷的投資者不會(huì)為我們提供幫助,因?yàn)槲覀儽仨氃谘邪l(fā)上花費(fèi)非常龐大的資金才能推出產(chǎn)品。我們只是說(shuō):“最終模型會(huì)足夠好,我們知道它會(huì)對(duì)人們有價(jià)值?!钡覀兎浅8屑づc微軟的合作,因?yàn)檫@種超前投資并不是風(fēng)投擅長(zhǎng)的。

Bill Gates:確實(shí)不是,而且資金成本相當(dāng)可觀,幾乎達(dá)到了風(fēng)投所能承受的極限。

Sam Altman:可能已經(jīng)超過(guò)了。

Bill Gates:確實(shí)可能。我非常贊同Satya“將杰出的人工智能組織融入大型軟件公司”的思考,結(jié)果是“一加一遠(yuǎn)遠(yuǎn)大于二”。

Sam Altman:是的,這很棒。你說(shuō)到了關(guān)鍵,這也是我從 YC 學(xué)到的。我們說(shuō)過(guò):聘請(qǐng)世界上最優(yōu)秀的人才,確保自己的目標(biāo)方向和AGI使命保持一致。但除此之外,我們要讓人們做自己的事情。我們意識(shí)到這會(huì)經(jīng)歷一些曲折,也需要一段時(shí)間。

當(dāng)然,我們的理論被證明是大致正確的,但一路上很多策略又被證實(shí)是非常錯(cuò)誤的。我們所做的只是盡量遵循科學(xué)的規(guī)律。

Bill Gates:我記得我看演示時(shí)想過(guò),這個(gè)項(xiàng)目的收入途徑是什么?是什么樣的?而在這個(gè)狂熱的時(shí)代,你仍然手握一支令人難以置信的團(tuán)隊(duì)。

Sam Altman:是的。優(yōu)秀的人確實(shí)希望和優(yōu)秀的同事一起工作。

Bill Gates:這是一種吸引力。

Sam Altman:而且還有一個(gè)很強(qiáng)大的引力重心。這聽(tīng)起來(lái)很老套,每家公司都這么說(shuō)。但人們確實(shí)感受到了深深的使命感,每個(gè)人都想?yún)⑴cAGI的創(chuàng)建。

Bill Gates:那一定很激動(dòng)人心。當(dāng)你再次用演示震撼我時(shí),我可以感受到那股力量。我看到了新人,新的想法,而你們?nèi)砸苑浅2豢伤甲h的速度前進(jìn)著。

10 建議——組建一支六邊形團(tuán)隊(duì)

Sam Altman:你最常給出的建議是什么?

Bill Gates:才能可以分很多種,在我職業(yè)生涯的早期,我認(rèn)為只有純粹的智商,比如工程智商。當(dāng)然,你可以將其應(yīng)用于金融和銷售。但這種想法被證明是如此錯(cuò)誤,因?yàn)?,組建一支擁有正確技能組合的團(tuán)隊(duì)是如此重要。

針對(duì)團(tuán)隊(duì)成員的問(wèn)題,要引導(dǎo)他們思考如何建立一支擁有各類技能的團(tuán)隊(duì),這可能是我認(rèn)為最有幫助的建議之一。是的,告訴孩子們,數(shù)學(xué)、科學(xué)很酷,如果你喜歡的話。但真正讓我驚訝的是這種天賦的組合。你的建議呢?

Sam Altman:我想說(shuō),大多數(shù)人對(duì)風(fēng)險(xiǎn)存在誤判。他們害怕離開(kāi)舒適圈去做自己真正想做的事。事實(shí)上,如果他們不這樣做,他們回顧自己的一生時(shí)就會(huì)說(shuō) “天啊,我從來(lái)沒(méi)有去創(chuàng)辦我想創(chuàng)辦的公司,或者我從來(lái)沒(méi)有嘗試去做一個(gè)人工智能研究員”。實(shí)際上,我認(rèn)為這樣做(后悔)帶來(lái)的風(fēng)險(xiǎn)更大。

與此相關(guān)的是,要明確自己想要做什么,并向別人提出自己的要求,就會(huì)有意想不到的收獲。

很多人受困于把時(shí)間花在自己不想做的事情上,而我最常給的建議可能就是想辦法解決這個(gè)問(wèn)題。

Bill Gates:如果你能讓人們從事一份讓他們有目標(biāo)感的工作,那會(huì)更有趣。有時(shí)這能夠產(chǎn)生巨大的影響力。

Sam Altman:當(dāng)然。

Bill Gates:感謝你的到來(lái),這是一次精彩的對(duì)話。在未來(lái)的日子里,我相信我們還會(huì)有更多的交流,因?yàn)槲覀冋σ宰詈玫姆绞剿茉烊斯ぶ悄堋?/p>

Sam Altman:非常感謝你的邀請(qǐng),我真的很享受與你對(duì)話。

Bill Gates:《為我解惑(Unconfuse Me)》是蓋茨筆記的一個(gè)節(jié)目。特別感謝我今天的嘉賓Sam Altman。

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請(qǐng)聯(lián)系原著作權(quán)人。

OpenAI

  • 科技早報(bào)|OpenAI為ChatGPT增添搜索功能;華為前三季營(yíng)收增長(zhǎng)近30%
  • OpenAI為ChatGPT增添搜索功能

微軟

5.2k
  • 納斯達(dá)克100指數(shù)跌幅擴(kuò)大至2%
  • 美股開(kāi)盤:三大指數(shù)低開(kāi),科技股下跌,雅詩(shī)蘭黛跌逾24%

評(píng)論

暫無(wú)評(píng)論哦,快來(lái)評(píng)價(jià)一下吧!

下載界面新聞

微信公眾號(hào)

微博

干貨32分鐘:比爾·蓋茨和山姆·奧特曼都說(shuō)了些什么?

未來(lái)5到10年,現(xiàn)在的大模型會(huì)顯得“愚蠢不堪”。

文|適道

如果讓你列舉人工智能領(lǐng)域的領(lǐng)軍人物,有一個(gè)名字你可能會(huì)聽(tīng)得最多:山姆·奧特曼(Sam Altman)。但如果讓你列舉軟件時(shí)代的巨擘,則一定會(huì)出現(xiàn)比爾·蓋茨(Bill Gates)的大名。

1月12日,OpenAI的CEO山姆·奧特曼(Sam Altman)作為特邀嘉賓,參加了由比爾·蓋茨(Bill Gates)主持的播客節(jié)目《為我解惑》(Unconfuse Me)。在這期節(jié)目中,兩位不同時(shí)代的先導(dǎo)者,共同探討了人工智能的現(xiàn)在及未來(lái)、對(duì)人類社會(huì)的影響、人工智能監(jiān)管的形式,以及各自對(duì)個(gè)人和團(tuán)隊(duì)發(fā)展的建議等等。

整場(chǎng)對(duì)話長(zhǎng)達(dá) 32分鐘,信息量巨大。其中包括:1、未來(lái)兩年間,GPT模型的關(guān)鍵里程碑將是多模態(tài),即涉及語(yǔ)音、圖像和視頻等多個(gè)模式的生成和表達(dá);2、大模型將在推理、定制化、個(gè)性化、自適應(yīng)等方面極大發(fā)展;3、人工智能將在編程、醫(yī)療、教育等領(lǐng)域提高生產(chǎn)力,解放人類創(chuàng)作力;4、未來(lái)5到10年,對(duì)人工智能的訓(xùn)練效率和準(zhǔn)確性理解將取得更多進(jìn)展,現(xiàn)有的大模型會(huì)顯得“愚蠢不堪”;5、當(dāng)前大模型正處于最快速的成本下降曲線上,這將成為社會(huì)轉(zhuǎn)型的關(guān)鍵;6、長(zhǎng)出了人工智能做“大腦”的機(jī)器人產(chǎn)業(yè)很可能影響勞動(dòng)力市場(chǎng),尤其是藍(lán)領(lǐng)工作等等。

值得注意的是,雖然兩位大佬在交談中沒(méi)有發(fā)生明顯的碰撞,但二者的立場(chǎng)態(tài)度似乎有所不同。例如,Altman對(duì)人類社會(huì)適應(yīng)人工智能保持樂(lè)觀態(tài)度,并暗示——人工智能可以解放人類創(chuàng)造力,而不是搶占人類的工作機(jī)會(huì);而B(niǎo)ill Gates似乎更擔(dān)心人工智能所帶來(lái)的負(fù)面影響。此外,和Altman相對(duì)激進(jìn)的風(fēng)格不同,Bill Gates更多是作為拋出問(wèn)題的采訪者和傾聽(tīng)者。

適道對(duì)完整版訪談進(jìn)行了簡(jiǎn)譯。為方便大家絲滑閱讀,改寫、刪除了一些不影響原文內(nèi)容的表達(dá)。

01 開(kāi)場(chǎng)——重提OpenAI政變

Bill Gates:今天的嘉賓是Sam Altman。他是 OpenAI的首席執(zhí)行官。長(zhǎng)期以來(lái),他一直是科技行業(yè)的創(chuàng)業(yè)者和領(lǐng)導(dǎo)者,包括經(jīng)營(yíng) Y Combinator,這家公司做了很多了不起的事情,比如投資 Reddit、Dropbox、Airbnb。

在我錄制節(jié)目不久后,Altman被解除了 OpenAI 首席執(zhí)行官的職務(wù),解雇后的幾天內(nèi)發(fā)生了很多事情,包括幾乎所有 OpenAI 員工聯(lián)名支持Sam回歸,而現(xiàn)在,Sam又回來(lái)了。所以,在你聽(tīng)到我們的對(duì)話之前,讓我們先來(lái)了解一下Sam,看看他現(xiàn)在過(guò)得怎么樣。

Bill Gates:你還好嗎?

Sam Altman:哦,天哪。這真的太瘋狂了,我還好。這是一個(gè)非常激動(dòng)人心的時(shí)期。

Bill Gates:團(tuán)隊(duì)情況怎么樣?

Sam Altman:我猜,很多人都注意到了這樣一個(gè)事實(shí),那就是團(tuán)隊(duì)從未如此高效、樂(lè)觀、出色。這也正是所有事情背后的一絲慰藉。在某種意義上,這是我們成長(zhǎng)的真正時(shí)刻,我們非常有動(dòng)力變得更好,變成一個(gè)全副武裝,迎接挑戰(zhàn)的公司。

Bill Gates:太棒了。所以,我們?cè)趯?duì)話中不會(huì)討論那件事。然而,你會(huì)聽(tīng)到Sam致力于建立一個(gè)安全、負(fù)責(zé)任的人工智能的承諾。我希望你喜歡這次對(duì)話。歡迎來(lái)到《為我解惑(Unconfuse Me)》。我是Bill Gates。

Bill Gates:今天,我們將主要聚焦于人工智能,因?yàn)樗绱肆钊伺d奮,人們同時(shí)也對(duì)它感到擔(dān)憂。歡迎,Sam。

Sam Altman:非常感謝你邀請(qǐng)我來(lái)參加節(jié)目。

02 回顧——ChatGPT源于結(jié)果先行

Bill Gates:我有幸見(jiàn)證了你們的工作進(jìn)展,但剛開(kāi)始時(shí),我其實(shí)非常懷疑,也沒(méi)期待過(guò) ChatGPT 能做得這么好。實(shí)際上,我們并不懂這種編碼形式。我們知道數(shù)字,看到它相乘,但如何將莎士比亞的作品編碼?你認(rèn)為我們能對(duì)這種表達(dá)產(chǎn)生更深的理解嗎?

Sam Altman:百分之百可以。要在人腦中做到這一點(diǎn)非常難。可以說(shuō),這是一個(gè)相似的問(wèn)題,這些神經(jīng)元彼此相連。但連接在變化,我們不可能切開(kāi)大腦來(lái)觀察,但我們可以完美地透視。

目前,我們?cè)诳山忉屝裕╥nterpretability)方面,已經(jīng)展開(kāi)了一些非常棒的工作,而且我認(rèn)為隨著時(shí)間推移,會(huì)有更多的解釋出現(xiàn)。我們將能夠理解這些(神經(jīng))網(wǎng)絡(luò),即便我們目前的理解能力還很低。而正如你所樂(lè)見(jiàn)的一切,我們憑著目前了解的那一點(diǎn),已經(jīng)能很大程度上改進(jìn)人工智能模型了。

所以,撇開(kāi)科學(xué)好奇心不談,我們都有動(dòng)力去真正地了解它們,盡管它們的規(guī)模是如此龐大。我們甚至還可以說(shuō),莎士比亞的作品是在你大腦的哪個(gè)位置編碼的,又是如何表現(xiàn)的?

Bill Gates:我們不知道。

Sam Altman:我們確實(shí)不知道。可以說(shuō),在這些我們本應(yīng)能夠完美透視、觀察并進(jìn)行任何測(cè)試的大量數(shù)據(jù)中,現(xiàn)在我們還是找不到答案,這就讓人興致缺缺。

Bill Gates:我非常確信,在接下來(lái)的五年內(nèi),我們會(huì)理解它(LLMs)。就訓(xùn)練效率和準(zhǔn)確性而言,這種理解將讓我們未來(lái)做的比今天能做的好得多。

Sam Altman:百分之百同意。你會(huì)在眾多技術(shù)的發(fā)展歷程中看到這一點(diǎn)。即,人們雖然不知道所以然,但在結(jié)果上卻又行得通。而此后,隨著人們對(duì)科學(xué)理解的加深,這項(xiàng)技術(shù)也會(huì)變得更好。

Bill Gates:是的,在物理學(xué)、生物學(xué)中,有時(shí)只是隨便一通亂試,然后就“哇”的一聲——這究竟是怎么實(shí)現(xiàn)的?

Sam Altman:在我們以往的案例中,構(gòu)建 GPT-1 的那個(gè)人自己解決了這個(gè)“哇”的問(wèn)題,這令人印象深刻。只不過(guò),我們沒(méi)有深入理解它是如何工作的,以及為何是有效的。之后,我們才有了拓展規(guī)律,借此預(yù)測(cè)它(GPT)會(huì)變得多好。

這就是為什么當(dāng)我們告訴你可以做演示時(shí),我們相當(dāng)有信心。雖然當(dāng)時(shí)我們還沒(méi)有訓(xùn)練模型,但我們信心十足。后來(lái)我們做了大量嘗試,并對(duì)正在發(fā)生的事情有了越來(lái)越深入的科學(xué)理解。但現(xiàn)在從頭來(lái)看,這(GPT)確實(shí)源于實(shí)證結(jié)果先行。

03 展望——未來(lái)兩年主旋律:多模態(tài)、推理性、可靠性、個(gè)性化、自適應(yīng)

Bill Gates:當(dāng)你展望未來(lái)兩年,你認(rèn)為,在人工智能發(fā)展上,會(huì)出現(xiàn)哪些重要的里程碑?

Sam Altman:多模態(tài)(Multimodality)肯定會(huì)很重要。

Bill Gates:你指的是語(yǔ)音輸入、語(yǔ)音輸出?

Sam Altman:語(yǔ)音輸入、語(yǔ)音輸出,然后是圖像,最終是視頻。顯然,人們是真的需要這些。我們已經(jīng)推出了圖像和音頻,反響比我們的預(yù)期要強(qiáng)烈得多。我們將會(huì)進(jìn)一步推進(jìn)這些功能,但也許,最關(guān)鍵的進(jìn)步將圍繞推理能力展開(kāi)。

現(xiàn)在, GPT-4 的推理能力和可靠性還非常有限。比方說(shuō),對(duì)于大部分問(wèn)題,如果你問(wèn) GPT-4 10000 次,這10000 次中可能有一次回答得很好,但 GPT-4不一定知道這是哪一次。而你卻希望自己的每次詢問(wèn),都能得到這 10000 次中最好的回答。因此,GPT可靠性的提升將非常重要。

可定制性和個(gè)性化也非常重要。人們對(duì) GPT-4 的需求各不相同:不同的風(fēng)格,不同的假設(shè)集,我們將會(huì)讓所有的這些成為可能,還能讓GPT-4 使用你自己的數(shù)據(jù)。它會(huì)足夠了解你、了解你的電子郵件、你的日歷、你喜歡的預(yù)約方式,并與其他外部數(shù)據(jù)源連接,所有這些都將是最重要的改進(jìn)領(lǐng)域。

Bill Gates:在目前的基礎(chǔ)算法中,GPT只是在做簡(jiǎn)單的前饋、乘法。所以,看起來(lái)是生成了每一個(gè)新詞,但它本質(zhì)上都在做同樣的事情。我很感興趣的點(diǎn)是,如果你們最終能解出復(fù)雜數(shù)學(xué)方程等難題,那么你們可能要做多次應(yīng)用變換,這時(shí)候,用于推理的控制邏輯可能比我們今天所做的要復(fù)雜得多。

Sam Altman:至少,我們似乎需要某種形式的自適應(yīng)計(jì)算?,F(xiàn)在,我們?cè)诿總€(gè)問(wèn)題上都花費(fèi)相同的計(jì)算量,無(wú)論是做一道簡(jiǎn)單題還是一道復(fù)雜的數(shù)學(xué)題。

Bill Gates:是的,比如說(shuō),「解決黎曼假設(shè)……」

Sam Altman:那可要進(jìn)行大量計(jì)算。

Bill Gates:但它所使用的計(jì)算量跟寫個(gè)“The”一樣?

Sam Altman:對(duì),我們至少得讓它能進(jìn)行下去。我們還需要在這之上解決更復(fù)雜的東西。

04 監(jiān)管——效仿國(guó)際原子能機(jī)構(gòu)(IAEA)

Bill Gates:我們倆都參加過(guò)一個(gè)參議院的教育會(huì)議,很高興大約有 30 名參議員都參加了那次會(huì)議。畢竟(人工智能)是一個(gè)如此重大的變革,我不認(rèn)為我們?cè)谖完P(guān)注這方面做的太過(guò)。當(dāng)你談?wù)摫O(jiān)管時(shí),你是否清楚要構(gòu)建哪種類型的監(jiān)管?

Sam Altman:我們已經(jīng)開(kāi)始解決這個(gè)問(wèn)題了。對(duì)人工智能領(lǐng)域進(jìn)行過(guò)度監(jiān)管是非常容易的,你可以看到,過(guò)去許多此類事情在發(fā)生。如果我們是正確的,并且人工智能能夠發(fā)展到我們所設(shè)想的那樣,即——影響社會(huì)、地緣政治力量的平衡,以及很多事情。

對(duì)于這些仍然是假設(shè)性的,但未來(lái)極其強(qiáng)大的人工智能——不是說(shuō) GPT-4,而是針對(duì)計(jì)算能力是GPT-4的 10 萬(wàn)倍或 100 萬(wàn)倍的系統(tǒng),我們已經(jīng)接受了一個(gè)全球監(jiān)管機(jī)構(gòu)的想法,這個(gè)機(jī)構(gòu)將緊盯這些超級(jí)強(qiáng)大的系統(tǒng),因?yàn)樗鼈兇_實(shí)會(huì)產(chǎn)生如此大的全球影響。

我們談?wù)摰囊环N模式是類似國(guó)際原子能機(jī)構(gòu)(IAEA)。例如,在“核能”方面,我們做出了同樣的決定。而由于人工智能潛在的全球影響力,需要一個(gè)全球性的機(jī)構(gòu)(監(jiān)管)。我認(rèn)為這是合理的。當(dāng)然,在此期間會(huì)出現(xiàn)很多短期問(wèn)題,比如可以說(shuō)什么,不可以說(shuō)什么;我們?nèi)绾慰创鏅?quán)問(wèn)題,對(duì)此,不同的國(guó)家會(huì)有不同的考慮,這都沒(méi)問(wèn)題。

Bill Gates:一些人認(rèn)為,如果存在如此強(qiáng)大的模型,我們就會(huì)對(duì)此感到害怕——全球核監(jiān)管之所以行之有效,是因?yàn)槊總€(gè)人,至少在民用方面,都希望共享安全實(shí)踐,這一點(diǎn)做得非常好。

而當(dāng)涉及核武器時(shí),就不會(huì)出現(xiàn)這種情況了。因?yàn)閱?wèn)題的關(guān)鍵在于,阻止整個(gè)世界做危險(xiǎn)的事情,就需要有全球政府(合作)。但從目前我們所能看到的眾多問(wèn)題中,例如氣候問(wèn)題、恐怖主義,你可以看到我們(全球政府)很難達(dá)成合作。人們甚至援引中美競(jìng)爭(zhēng),來(lái)解釋任何放緩的想法都是不對(duì)的。難道說(shuō),任何放慢腳步的想法,或者說(shuō)放慢腳步以求謹(jǐn)慎,都很難實(shí)施嗎?

Sam Altman:是的,我認(rèn)為要求放慢發(fā)展速度是非常困難的。如果改成“做你想做的事,但任何計(jì)算集群都不能超過(guò)一個(gè)特定、極高的功率門檻”——鑒于巨大的成本,我們可能只會(huì)看到五個(gè)這樣的模型——任何這樣的集群都必須接受類似國(guó)際武器檢查員的審查。該模型必須可供安全審核,在訓(xùn)練期間和部署之前通過(guò)一些測(cè)試。我覺(jué)得這是可能的。

我以前還不太確定以上想法是否可實(shí)現(xiàn),但今年(2023年),我周游世界各地,并和許多需要參與這一活動(dòng)的國(guó)家的元首交談,幾乎得到了普遍的支持。雖然這不能保證我們能夠脫離一切風(fēng)險(xiǎn)。畢竟,對(duì)于規(guī)模小得多的人工智能系統(tǒng)來(lái)說(shuō),仍然會(huì)出現(xiàn)問(wèn)題。但我認(rèn)為以上舉措可以幫助我們應(yīng)對(duì)人工智能帶來(lái)的最大風(fēng)險(xiǎn)。

05 應(yīng)用——解放人類創(chuàng)造力,尤其是編碼、醫(yī)療、教育領(lǐng)域

Bill Gates:現(xiàn)在,我們看到人工智能帶來(lái)了很多生產(chǎn)力方面的提升,這是非常棒的事情。你最興奮的領(lǐng)域是哪些?

Sam Altman:首先,我始終認(rèn)為,我們正處于一條漫長(zhǎng)、連續(xù)的發(fā)展曲線上。現(xiàn)在,我們擁有了可以執(zhí)行任務(wù)的人工智能。當(dāng)然,雖然它們不能完成一份完整的工作(一個(gè)崗位能做的所有事情),但它們可以完成一些任務(wù),并提高人類員工的生產(chǎn)力。最終,人工智能將能從事更多今天人類所做的工作,而我們?nèi)祟惍?dāng)然也會(huì)找到新的、更好的工作。

我完全相信,如果你為人類提供更強(qiáng)大的工具,人類不僅僅可以工作得更快,還可以做一些質(zhì)變的工作。比如現(xiàn)在,我們可以將程序員的工作速度提高三倍。這就是我們所看到的,也是我們最興奮的領(lǐng)域之一,人工智能做得非常好。

但是,如果你能讓程序員的效率提高三倍,那么,程序員能做的事情就不僅僅只是(在數(shù)量上)多了三倍。因?yàn)?,人類程序員可以能在更高的抽象層次上,使用更多的腦力去構(gòu)思完全不同的事情。這就好比從打孔卡(punch card)躍升到更高級(jí)的語(yǔ)言,不僅讓我們編程速度更快,還能解放人們做高質(zhì)量的創(chuàng)新事物。大家也看到了這一點(diǎn)。

而當(dāng)我們將目光投向下一代人工智能時(shí),你可以將它想象成一個(gè)小代理(Agent),對(duì)它說(shuō):“幫我寫完整個(gè)程序,我會(huì)在過(guò)程中問(wèn)你幾個(gè)問(wèn)題,不僅僅是一次只寫幾個(gè)函數(shù)這么簡(jiǎn)單”。如此下來(lái),就會(huì)誕生很多新生事物。而它(人工智能)也能做更復(fù)雜的事情。例如,在未來(lái)某天,你可以對(duì)人工智能說(shuō):“幫我建立并運(yùn)營(yíng)這家公司?!薄叭グl(fā)現(xiàn)新的物理學(xué)?!钡鹊?。

我認(rèn)為,至少在未來(lái)的五年或十年內(nèi),人工智能技術(shù)將處于一條非常陡峭的成長(zhǎng)曲線上。而在那個(gè)時(shí)候,我們現(xiàn)有的這些模型都會(huì)變成最愚蠢的模型。

編程或許是我們今天感到最興奮的一個(gè)提高生產(chǎn)力的領(lǐng)域。目前,它已經(jīng)被大規(guī)模部署使用。醫(yī)療保健、教育是另外兩個(gè)我們非常期待的快速發(fā)展領(lǐng)域。

06 社會(huì)——機(jī)器人影響勞動(dòng)力市場(chǎng)

Bill Gates:令人生畏的是,與以往的技術(shù)發(fā)展軌跡不同,人工智能的進(jìn)步速度非常快,而且沒(méi)有上限。它可以在很多工作領(lǐng)域達(dá)到人類的水平,即使做不出獨(dú)特的科學(xué)研究,它至少能打客服、銷售電話。盡管人工智能是一件好事,但它迫使我們比以往任何時(shí)候都要更快地適應(yīng)這項(xiàng)技術(shù)。

Sam Altman:這才是可怕的地方。并不是說(shuō)我們必須適應(yīng),也不是說(shuō)人類沒(méi)有超強(qiáng)的適應(yīng)能力。在我們經(jīng)歷過(guò)的一些大規(guī)模技術(shù)變革中,人類所從事的大量工作可能是在幾代人的時(shí)間內(nèi)發(fā)生變化,而在這漫長(zhǎng)的時(shí)間中,我們可以很好地消化這些變化。

雖然,每次技術(shù)革命都會(huì)變得更快,但人工智能將是迄今為止最快的一次。這就是我覺(jué)得有點(diǎn)可怕的地方——我們的社會(huì)到底要以何種速度去適應(yīng)人工智能的發(fā)展,應(yīng)對(duì)勞動(dòng)力市場(chǎng)將發(fā)生的變化。

Bill Gates:人工智能的一個(gè)方面是機(jī)器人技術(shù),或者說(shuō)藍(lán)領(lǐng)工作,當(dāng)機(jī)器人具有和人類一樣(靈活)的四肢時(shí),我擔(dān)心人們會(huì)不再關(guān)注藍(lán)領(lǐng)。你如何看待機(jī)器人?

Sam Altman:我對(duì)此非常興奮。我們很早就開(kāi)始研究機(jī)器人,以至于不得不擱置那個(gè)項(xiàng)目。我們一直在處理糟糕的模擬器和肌腱斷裂之類的問(wèn)題。

隨著時(shí)間的推移,我們?cè)絹?lái)越意識(shí)到,(機(jī)器人研發(fā))首先需要解決智能和認(rèn)知問(wèn)題(機(jī)器人的大腦部分),然后才能弄清楚“如何讓‘大腦’適應(yīng)身體的物理特性”的問(wèn)題。而從我們構(gòu)建語(yǔ)言模型的過(guò)程來(lái)看,問(wèn)題從這里開(kāi)始就會(huì)變得容易解決。

我們一直計(jì)劃回到這個(gè)項(xiàng)目(機(jī)器人研發(fā))上來(lái)。目前,我們已經(jīng)對(duì)一些機(jī)器人公司進(jìn)行投資。在物理硬件方面,我也終于第一次看到了真正令人興奮的新平臺(tái)出現(xiàn)。到時(shí)候,我們就能利用自己的模型,就像你剛才說(shuō)的,利用它們的語(yǔ)言理解能力和未來(lái)的視頻理解能力,說(shuō):“好吧,讓我們用機(jī)器人做一些了不起的事情吧?!?/p>

Bill Gates:如果那些已經(jīng)把“腿部”做得很好的硬件人員能把手臂、手掌和手指做出來(lái),我們?cè)侔阉鼈兘M合起來(lái),且價(jià)格不貴得離譜,那么這將會(huì)迅速改變很多藍(lán)領(lǐng)類工作的就業(yè)市場(chǎng)。

Sam Altman:是的。當(dāng)然,如果我們回溯七到十年,大家的共識(shí)是機(jī)器人先會(huì)影響藍(lán)領(lǐng)工作,其次才是白領(lǐng)工作。

創(chuàng)造力工作可能永遠(yuǎn)不會(huì)被影響,要影響也起碼是最后一個(gè),因?yàn)閯?chuàng)造力是魔法,是人類的強(qiáng)項(xiàng)。

顯然,現(xiàn)在的情況可能正好相反。我認(rèn)為這其中有很多有趣的原因能夠解釋。因?yàn)椋趧?chuàng)造性工作方面,GPT 模型的幻覺(jué)是一個(gè)功能,而不是缺陷,它能讓你發(fā)現(xiàn)一些新事物。

然而,如果你要讓機(jī)器人移動(dòng)重型機(jī)械,最好能做到非常精確。我認(rèn)為這是一個(gè)必須順應(yīng)技術(shù)發(fā)展的例子。你可能會(huì)有一些先入為主的觀念,但有時(shí)科學(xué)并不往那個(gè)方向發(fā)展。

07 成本——生成式AI使用成本將急速下降

Bill Gates:就公平性而言,技術(shù)通常很昂貴,比如PC或互聯(lián)網(wǎng),成本下降需要時(shí)間。我猜,運(yùn)行這些人工智能系統(tǒng)的成本可不是小數(shù)字,每次評(píng)估的成本會(huì)下降很多?

Sam Altman:已經(jīng)降了很多。GPT-3 是我們推出時(shí)間最長(zhǎng)、優(yōu)化最久的模型,在推出的三年多里,我們已經(jīng)將成本降低了 40 倍。對(duì)于三年的時(shí)間來(lái)說(shuō),這是一個(gè)很好的開(kāi)始。至于GPT-3.5版,我敢打賭,目前我們已經(jīng)將其成本降低了近 10 倍。

因?yàn)镚PT-4 是新產(chǎn)品,我們還沒(méi)有那么多時(shí)間來(lái)降低成本,但我們會(huì)繼續(xù)努力。

我認(rèn)為,在我所知道的所有技術(shù)中,我們的成本下降曲線是最陡峭的,遠(yuǎn)勝于摩爾定律。

這不僅是因?yàn)槲覀兿氤隽巳绾巫屇P透咝У姆椒?,還和我們對(duì)研究產(chǎn)生了更深的理解有關(guān),我們可以在更小的模型中獲得更多知識(shí)和能力。未來(lái),我們將會(huì)把智能的成本降低到接近于零的程度,而這對(duì)社會(huì)來(lái)說(shuō),將是一次前無(wú)古人,后無(wú)來(lái)者的變革。

現(xiàn)在,我的世界基本模型由智能成本和能源成本組成(Bill Gates笑了)。如果你能同時(shí)降低這兩方面的成本,你能擁有更多的東西,為人們帶來(lái)更大的改善。我們正處在(降低成本)的曲線上,至少在智能方面,我們將真正實(shí)現(xiàn)這一承諾。

即使按照目前20美元/月的價(jià)格,你就能獲得大量的 GPT-4 訪問(wèn)權(quán)限,而(你獲得的價(jià)值)遠(yuǎn)遠(yuǎn)超過(guò)了 20 美元。我們已經(jīng)降得很低了。

08 觀察——最佳創(chuàng)始人比以往更老一些

Bill Gates:那競(jìng)爭(zhēng)呢?很多人一下子擠進(jìn)這個(gè)賽道是不是很有趣?

Sam Altman:既令人生厭,又充滿動(dòng)力和樂(lè)趣,我相信你也有過(guò)類似的感受。這促使我們做得更快、更好,我們對(duì)自己的方法很有信心。有很多人正滑向冰球所在的位置,而我們也將前往冰球要去的地方。感覺(jué)還可以。

Bill Gates:我認(rèn)為人們會(huì)對(duì) OpenAI的規(guī)模之小感到驚訝。你們有多少員工?

Sam Altman:大約 500 人,我們的規(guī)模還比以前稍微大了一些。

Bill Gates:但還是很小,要是以谷歌、微軟、蘋果的標(biāo)準(zhǔn)來(lái)看。

Sam Altman:確實(shí)很小,我們不僅要做實(shí)驗(yàn)室,現(xiàn)在還要經(jīng)營(yíng)一家真正的企業(yè)和兩款產(chǎn)品。

Bill Gates:你們是一家年輕的公司嗎?

Sam Altman:比平均年齡要大一些。這里不是一群 24 歲的程序員。

Bill Gates:的確,我的視角有些扭曲了,因?yàn)槲乙呀?jīng) 60 多歲了,畢竟你比我年輕。但你說(shuō)得對(duì),你們很多人已經(jīng)四十多歲了。

Sam Altman:三十多歲、四十多歲、五十多歲(的人)。

Bill Gates:這不像早期的蘋果、微軟,那時(shí)我們真的還是孩子。

Sam Altman:對(duì),我也反思過(guò)這個(gè)問(wèn)題。我認(rèn)為現(xiàn)在公司普遍變老了,我不認(rèn)為這是件好事。我在YC想到過(guò)這個(gè)問(wèn)題??赡茈S著時(shí)間的推移,那些最佳的創(chuàng)始人逐漸變老。就我們而言,比平均水平要老一點(diǎn),但仍然如此。

Bill Gates:這很有意思。

09 創(chuàng)業(yè)——聚集頂尖人才,不急于短期收益

Bill Gates:你在 YC 的經(jīng)歷中學(xué)到了很多,我想這對(duì)你現(xiàn)在的工作也是很好的鍛煉。

Sam Altman:非常有幫助。

Bill Gates:包括看到錯(cuò)誤。

Sam Altman:完全正確。實(shí)際上,OpenAI 做了很多和 YC 建議相反的事情。我們花了四年半時(shí)間,才推出了自己的第一個(gè)產(chǎn)品。而在公司成立之初,我們對(duì)產(chǎn)品沒(méi)有任何概念,我們也沒(méi)有和用戶交流(雖然我不建議大多數(shù)公司這樣做)。但在 YC 學(xué)習(xí)并看到這些規(guī)則后,我才明白了——何時(shí)、如何以及為何OpenAI 可以打破這些規(guī)則。我們確實(shí)做了一些與我見(jiàn)過(guò)的其他公司截然不同的事情。

Bill Gates:關(guān)鍵在于你聚集人才,讓他們專注于更大的問(wèn)題,而不是某些短期收益問(wèn)題。

Sam Altman:我認(rèn)為硅谷的投資者不會(huì)為我們提供幫助,因?yàn)槲覀儽仨氃谘邪l(fā)上花費(fèi)非常龐大的資金才能推出產(chǎn)品。我們只是說(shuō):“最終模型會(huì)足夠好,我們知道它會(huì)對(duì)人們有價(jià)值。”但我們非常感激與微軟的合作,因?yàn)檫@種超前投資并不是風(fēng)投擅長(zhǎng)的。

Bill Gates:確實(shí)不是,而且資金成本相當(dāng)可觀,幾乎達(dá)到了風(fēng)投所能承受的極限。

Sam Altman:可能已經(jīng)超過(guò)了。

Bill Gates:確實(shí)可能。我非常贊同Satya“將杰出的人工智能組織融入大型軟件公司”的思考,結(jié)果是“一加一遠(yuǎn)遠(yuǎn)大于二”。

Sam Altman:是的,這很棒。你說(shuō)到了關(guān)鍵,這也是我從 YC 學(xué)到的。我們說(shuō)過(guò):聘請(qǐng)世界上最優(yōu)秀的人才,確保自己的目標(biāo)方向和AGI使命保持一致。但除此之外,我們要讓人們做自己的事情。我們意識(shí)到這會(huì)經(jīng)歷一些曲折,也需要一段時(shí)間。

當(dāng)然,我們的理論被證明是大致正確的,但一路上很多策略又被證實(shí)是非常錯(cuò)誤的。我們所做的只是盡量遵循科學(xué)的規(guī)律。

Bill Gates:我記得我看演示時(shí)想過(guò),這個(gè)項(xiàng)目的收入途徑是什么?是什么樣的?而在這個(gè)狂熱的時(shí)代,你仍然手握一支令人難以置信的團(tuán)隊(duì)。

Sam Altman:是的。優(yōu)秀的人確實(shí)希望和優(yōu)秀的同事一起工作。

Bill Gates:這是一種吸引力。

Sam Altman:而且還有一個(gè)很強(qiáng)大的引力重心。這聽(tīng)起來(lái)很老套,每家公司都這么說(shuō)。但人們確實(shí)感受到了深深的使命感,每個(gè)人都想?yún)⑴cAGI的創(chuàng)建。

Bill Gates:那一定很激動(dòng)人心。當(dāng)你再次用演示震撼我時(shí),我可以感受到那股力量。我看到了新人,新的想法,而你們?nèi)砸苑浅2豢伤甲h的速度前進(jìn)著。

10 建議——組建一支六邊形團(tuán)隊(duì)

Sam Altman:你最常給出的建議是什么?

Bill Gates:才能可以分很多種,在我職業(yè)生涯的早期,我認(rèn)為只有純粹的智商,比如工程智商。當(dāng)然,你可以將其應(yīng)用于金融和銷售。但這種想法被證明是如此錯(cuò)誤,因?yàn)?,組建一支擁有正確技能組合的團(tuán)隊(duì)是如此重要。

針對(duì)團(tuán)隊(duì)成員的問(wèn)題,要引導(dǎo)他們思考如何建立一支擁有各類技能的團(tuán)隊(duì),這可能是我認(rèn)為最有幫助的建議之一。是的,告訴孩子們,數(shù)學(xué)、科學(xué)很酷,如果你喜歡的話。但真正讓我驚訝的是這種天賦的組合。你的建議呢?

Sam Altman:我想說(shuō),大多數(shù)人對(duì)風(fēng)險(xiǎn)存在誤判。他們害怕離開(kāi)舒適圈去做自己真正想做的事。事實(shí)上,如果他們不這樣做,他們回顧自己的一生時(shí)就會(huì)說(shuō) “天啊,我從來(lái)沒(méi)有去創(chuàng)辦我想創(chuàng)辦的公司,或者我從來(lái)沒(méi)有嘗試去做一個(gè)人工智能研究員”。實(shí)際上,我認(rèn)為這樣做(后悔)帶來(lái)的風(fēng)險(xiǎn)更大。

與此相關(guān)的是,要明確自己想要做什么,并向別人提出自己的要求,就會(huì)有意想不到的收獲。

很多人受困于把時(shí)間花在自己不想做的事情上,而我最常給的建議可能就是想辦法解決這個(gè)問(wèn)題。

Bill Gates:如果你能讓人們從事一份讓他們有目標(biāo)感的工作,那會(huì)更有趣。有時(shí)這能夠產(chǎn)生巨大的影響力。

Sam Altman:當(dāng)然。

Bill Gates:感謝你的到來(lái),這是一次精彩的對(duì)話。在未來(lái)的日子里,我相信我們還會(huì)有更多的交流,因?yàn)槲覀冋σ宰詈玫姆绞剿茉烊斯ぶ悄堋?/p>

Sam Altman:非常感謝你的邀請(qǐng),我真的很享受與你對(duì)話。

Bill Gates:《為我解惑(Unconfuse Me)》是蓋茨筆記的一個(gè)節(jié)目。特別感謝我今天的嘉賓Sam Altman。

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請(qǐng)聯(lián)系原著作權(quán)人。