Sundar Pichai：人們很難想象將會(huì)發(fā)生的飛躍。 我們會(huì)提供 API，人們會(huì)以相當(dāng)深入的方式想象它。

我認(rèn)為多模態(tài)將會(huì)很大。 當(dāng)我們教會(huì)這些模型更多地進(jìn)行推理時(shí)，就會(huì)有越來(lái)越大的突破。 更深入的突破即將到來(lái)。

思考這個(gè)問(wèn)題的一種方法是 Gemini Pro。 它在基準(zhǔn)測(cè)試中表現(xiàn)非常好。 但當(dāng)我們把它放在 Bard 聊天機(jī)器人中時(shí)，我作為一個(gè)用戶(hù)就能感受到它。 我們一直在對(duì)其進(jìn)行測(cè)試，所有類(lèi)別的好感度都有顯著上升。 這就是為什么我們稱(chēng)其為迄今為止最大的升級(jí)之一。 當(dāng)我們進(jìn)行并排盲評(píng)估時(shí)，它確實(shí)顯示出優(yōu)異的性能。 所以你可以讓這些更好的模型在基準(zhǔn)上得到改進(jìn)。 它取得了進(jìn)步。 我們將繼續(xù)訓(xùn)練并從那里開(kāi)始。

但我迫不及待地想將它放入我們的產(chǎn)品中。 這些模型非常有能力。 實(shí)際上設(shè)計(jì)產(chǎn)品體驗(yàn)以充分利用模型所擁有的所有功能——接下來(lái)的幾個(gè)月將會(huì)令人興奮。

我能想象發(fā)布 Gemini 所面臨的巨大壓力。 我很好奇你在 GPT-4 的發(fā)布中了解到了什么。 你學(xué)到了什么？ 你們做了哪些改變？

Sundar Pichai：有一點(diǎn)，至少對(duì)我來(lái)說(shuō)：感覺(jué)這離零和游戲還很遠(yuǎn)，對(duì)吧？ 想想向 AI 的轉(zhuǎn)變有多么深刻，以及我們還處于多么早的階段。 前方充滿機(jī)遇。

但對(duì)于你的具體問(wèn)題，這是一個(gè)我們都在進(jìn)步的豐富領(lǐng)域。 它有科學(xué)的成分，也有學(xué)術(shù)的成分； 大量研究被發(fā)表，了解像 GPT-4 這樣的模型在現(xiàn)實(shí)世界中是如何工作的。 我們從中吸取了教訓(xùn)。 安全是一個(gè)重要領(lǐng)域。 因此，在 Gemini 中，我們根據(jù)模型在現(xiàn)實(shí)世界中的運(yùn)行情況學(xué)習(xí)并改進(jìn)了一些安全技術(shù)。 這顯示了微調(diào)等各種事情的重要性。 我們通過(guò) Med-PaLM 2 展示的內(nèi)容之一是采用像 PaLM 這樣的模型，將其真正微調(diào)到特定領(lǐng)域，表明它可以超越最先進(jìn)的模型。 這就是我們了解微調(diào)力量的一種方式。

當(dāng)我們?cè)陂_(kāi)發(fā) Gemini 時(shí)，其中的很多內(nèi)容都會(huì)被應(yīng)用。 我們花更多時(shí)間開(kāi)發(fā) Gemini Ultra版本（將于明年推出）的部分原因是為了確保我們對(duì)其進(jìn)行嚴(yán)格的安全測(cè)試。 但我們也在對(duì)其進(jìn)行微調(diào)，以真正梳理出其能力。

當(dāng)你看到其中一些版本發(fā)布并且人們開(kāi)始在現(xiàn)實(shí)世界中修改它們時(shí)，他們會(huì)產(chǎn)生幻覺(jué)，或者他們可能會(huì)泄露他們的模型所訓(xùn)練的一些私人數(shù)據(jù)。 我想知道，考慮到它所訓(xùn)練的數(shù)據(jù)，其中有多少是該技術(shù)固有的。 如果這是不可避免的，您會(huì)嘗試采取哪些措施來(lái)限制這種情況？

Sundar Pichai：你說(shuō)得對(duì)。 這些都是活躍的研究領(lǐng)域。 事實(shí)上，我們剛剛發(fā)表了一篇論文，展示了這些模型如何通過(guò)一系列提示來(lái)揭示訓(xùn)練數(shù)據(jù)。 幻覺(jué)不是一個(gè)已解決的問(wèn)題。 我認(rèn)為我們都在這方面取得了進(jìn)展，而且還有更多的工作要做。 我們需要解決一些基本的限制。 一個(gè)例子是，如果您采用 Gemini Ultra，我們正在積極與使用它的外部第三方（這些領(lǐng)域的專(zhuān)家）對(duì)這些模型進(jìn)行紅隊(duì)合作。

在多模態(tài)等領(lǐng)域，我們想要大膽，我們想要負(fù)責(zé)任。 我們將更加謹(jǐn)慎地推出多模態(tài)，因?yàn)殄e(cuò)誤用例的可能性更高。

但你是對(duì)的，因?yàn)樗匀皇且豁?xiàng)正在進(jìn)行中的技術(shù)，這就是為什么它們不會(huì)對(duì)所有事情都有意義。 這就是為什么在搜索中，我們更加小心如何使用它、何時(shí)、何地、在哪里使用它，以及何時(shí)觸發(fā)它。 他們擁有這些驚人的能力，但也有明顯的缺點(diǎn)。 這是我們所有人面臨的艱巨工作。

你認(rèn)為最終這個(gè)問(wèn)題會(huì)得到解決嗎——幻覺(jué)，或者暴露其他訓(xùn)練數(shù)據(jù)？

Sundar Pichai：以目前的自回歸大模型技術(shù)，幻覺(jué)問(wèn)題還沒(méi)有得到解決。 但未來(lái)的 AI 系統(tǒng)可能與我們今天的系統(tǒng)不同。 這是技術(shù)的一種版本。 這就像人們認(rèn)為不可能將電腦裝進(jìn)口袋一樣。 20年前，有些人確實(shí)很固執(zhí)己見(jiàn)。 同樣，看著這些系統(tǒng)并說(shuō)你無(wú)法設(shè)計(jì)更好的系統(tǒng)。 我不同意這種觀點(diǎn)。 已經(jīng)有許多研究探索正在進(jìn)行，以思考如何解決這些問(wèn)題。

您已經(jīng)談到這是一個(gè)多么深刻的轉(zhuǎn)變。 在最后的一些轉(zhuǎn)變中，比如向移動(dòng)設(shè)備的轉(zhuǎn)變，它并不一定會(huì)提高生產(chǎn)力，而生產(chǎn)力長(zhǎng)期以來(lái)一直持平。 我認(rèn)為有人認(rèn)為這甚至可能加劇收入不平等。 谷歌正在開(kāi)展哪些工作來(lái)確保這一轉(zhuǎn)變更廣泛地造福于社會(huì)？

Sundar Pichai：這是一個(gè)非常重要的問(wèn)題。 我在幾個(gè)層面上思考這個(gè)問(wèn)題。 在谷歌，我們一直關(guān)注的一件事是：我們?nèi)绾潍@得盡可能廣泛的技術(shù)訪問(wèn)？ 因此，我認(rèn)為即使在移動(dòng)設(shè)備的情況下，我們使用 Android 所做的工作，數(shù)億人也無(wú)法獲得計(jì)算訪問(wèn)權(quán)限。 我們努力推出一款價(jià)格實(shí)惠的智能手機(jī)，價(jià)格可能低于 50 美元。

所以讓AI對(duì)每個(gè)人都有幫助是我思考的框架。 您嘗試向盡可能多的人提供機(jī)會(huì)。 我認(rèn)為這是其中的一部分。

我們正在深入思考將其應(yīng)用到可以造福人們的用例中。 例如，我們?cè)缙谶M(jìn)行洪水預(yù)報(bào)的原因是因?yàn)槲覀円庾R(shí)到 AI 可以檢測(cè)模式并做得很好。 我們用它來(lái)翻譯 1,000 種語(yǔ)言。 我們現(xiàn)在確實(shí)正在嘗試以其他語(yǔ)言提供內(nèi)容，否則您將無(wú)法訪問(wèn)這些內(nèi)容。

這并不能解決你所說(shuō)的所有問(wèn)題。 但要深思熟慮何時(shí)何地，你要關(guān)注什么樣的問(wèn)題——我們一直關(guān)注這一點(diǎn)。 以 AlphaFold 等區(qū)域?yàn)槔?我們?yōu)槭澜绺鞯氐牟《咎峁┝碎_(kāi)放的數(shù)據(jù)庫(kù)。 但是……誰(shuí)先使用它？ 哪里有賣(mài)？ AI 不會(huì)神奇地讓不平等等一些更困難的問(wèn)題變得更好； 它可能會(huì)加劇這種情況。

但重要的是確保每個(gè)人都可以使用這些技術(shù)。 你要盡早開(kāi)發(fā)它，讓人們有機(jī)會(huì)參與對(duì)話，以便社會(huì)能夠思考它并適應(yīng)它。

我們肯定比其他技術(shù)公司更早地參與這項(xiàng)技術(shù)。 你知道，最近的英國(guó) AI 安全論壇或美國(guó)國(guó)會(huì)和政府的工作。 我們正在嘗試建立更多的公私合作伙伴關(guān)系，盡早吸引非營(yíng)利組織和學(xué)術(shù)機(jī)構(gòu)。

對(duì)就業(yè)等領(lǐng)域的影響需要深入研究，但我確實(shí)認(rèn)為會(huì)有驚喜。 會(huì)有令人驚訝的正外部性，也會(huì)有負(fù)外部性。 解決負(fù)外部性的任務(wù)比任何一家公司都大。 這是社會(huì)所有利益相關(guān)者的角色。 所以我沒(méi)有簡(jiǎn)單的答案。

我可以舉出很多例子來(lái)說(shuō)明移動(dòng)設(shè)備帶來(lái)的好處。 我們已經(jīng)在糖尿病視網(wǎng)膜病變等領(lǐng)域展示了這一點(diǎn)。 世界許多地方?jīng)]有足夠的醫(yī)生來(lái)檢測(cè)它。

就像我覺(jué)得讓世界各地的人們?cè)L問(wèn)谷歌搜索會(huì)產(chǎn)生積極的影響一樣，我認(rèn)為這就是考慮擴(kuò)大 AI 訪問(wèn)的方式。

有些事情顯然會(huì)提高人們的生產(chǎn)力。 編程就是一個(gè)很好的例子。 然而，這項(xiàng)技術(shù)的民主化正是威脅就業(yè)的因素。 即使你沒(méi)有找到社會(huì)的所有答案——而且一家公司也沒(méi)有責(zé)任解決社會(huì)問(wèn)題——一家公司也可以推出一種可以極大改變世界并產(chǎn)生深遠(yuǎn)影響的產(chǎn)品。

Sundar Pichai：我們從未提供面部識(shí)別 API。 但人們構(gòu)建了 API，技術(shù)也在不斷向前發(fā)展。 所以它也不在任何一家公司的手中。 技術(shù)將向前發(fā)展。

我認(rèn)為答案比這更復(fù)雜。 社會(huì)也可能落后。 如果您不采用這些技術(shù)，可能會(huì)影響您的經(jīng)濟(jì)競(jìng)爭(zhēng)力。 你可能會(huì)失去更多工作。

我認(rèn)為正確的答案是負(fù)責(zé)任地部署技術(shù)并取得進(jìn)展，并考慮可能造成不成比例傷害的領(lǐng)域，并努力減輕傷害。 將會(huì)出現(xiàn)更新類(lèi)型的工作。 如果你看看過(guò)去 50、60 年，麻省理工學(xué)院經(jīng)濟(jì)學(xué)家的研究表明，大部分創(chuàng)造的新就業(yè)機(jī)會(huì)都出現(xiàn)在自那時(shí)以來(lái)出現(xiàn)的新領(lǐng)域。

將會(huì)創(chuàng)造出新的就業(yè)機(jī)會(huì)。 有些工作會(huì)變得更好，一些重復(fù)性的工作會(huì)被解放出來(lái)，讓你可以更有創(chuàng)意地表達(dá)自己。 你可以是一名醫(yī)生，你可以是一名放射科醫(yī)生，你可以是一名程序員。 你花在日常任務(wù)上的時(shí)間與高階思維的時(shí)間——所有這些都可能改變，讓工作變得更有意義。 還有一些工作可能會(huì)被取代。 那么，作為一個(gè)社會(huì)，如何對(duì)人們進(jìn)行再培訓(xùn)、增加技能和創(chuàng)造機(jī)會(huì)呢？

去年，人們對(duì) AI 的看法確實(shí)出現(xiàn)了哲學(xué)分歧。 有人認(rèn)為安全第一，有人認(rèn)為業(yè)務(wù)用例第一，有加速主義者，也有毀滅論者。 你所處的位置必須將所有這些哲學(xué)聯(lián)系起來(lái)并將其整合在一起。 我想知道您個(gè)人對(duì)于嘗試將谷歌的這些利益與這個(gè)新世界聯(lián)系起來(lái)有何看法，谷歌將成為該領(lǐng)域的領(lǐng)導(dǎo)者。

Sundar Pichai：我是一個(gè)技術(shù)樂(lè)觀主義者。 基于我的個(gè)人生活，我一直感受到對(duì)人和人性的信念。 總的來(lái)說(shuō)，我認(rèn)為人類(lèi)將利用技術(shù)來(lái)謀取利益。 所以我一直是個(gè)樂(lè)觀主義者。 你是對(duì)的：像 AI 這樣強(qiáng)大的技術(shù)，它具有二元性。

這意味著有時(shí)我們會(huì)大膽前進(jìn)，因?yàn)槲艺J(rèn)為我們可以推動(dòng)最先進(jìn)的技術(shù)。 例如，如果 AI 可以幫助我們解決癌癥或氣候變化等問(wèn)題，你會(huì)想盡一切努力快速前進(jìn)。 但你肯定需要社會(huì)制定適應(yīng)框架，無(wú)論是深度偽造還是工作崗位轉(zhuǎn)移等。這將是一個(gè)前沿——與氣候變化沒(méi)有什么不同。 這將是我們未來(lái)十年要努力解決的最重要的事情之一。

另一件懸而未決的大事是 AI 的法律環(huán)境。 存在關(guān)于合理使用的問(wèn)題，關(guān)于能否保護(hù)輸出的問(wèn)題。 這對(duì)于知識(shí)產(chǎn)權(quán)來(lái)說(shuō)似乎是一件大事。 您如何告訴使用您產(chǎn)品的人，讓他們有安全感，讓他們知道他們所做的事情不會(huì)讓他們被起訴？

Sundar Pichai：這些并不是所有話題都能輕易得到答案。 當(dāng)我們構(gòu)建搜索和 YouTube 等產(chǎn)品時(shí)，我們一直在努力實(shí)現(xiàn)正確的價(jià)值交換。 對(duì)于 AI 來(lái)說(shuō)也沒(méi)有什么不同。 我們絕對(duì)致力于確保我們能夠根據(jù)法律允許的數(shù)據(jù)進(jìn)行訓(xùn)練，并讓人們有機(jī)會(huì)選擇退出訓(xùn)練。 然后還有一層關(guān)于這一點(diǎn)——關(guān)于什么是合理使用。 為原創(chuàng)內(nèi)容的創(chuàng)作者創(chuàng)造價(jià)值非常重要。 這些都是重要的領(lǐng)域。 互聯(lián)網(wǎng)就是一個(gè)例子。 或者當(dāng)電子商務(wù)開(kāi)始時(shí)：如何劃分電子商務(wù)和常規(guī)商務(wù)之間的界限？

隨著時(shí)間的推移，將會(huì)制定新的法律框架，我想這就是隨著這個(gè)領(lǐng)域的發(fā)展我會(huì)如何看待它。 但與此同時(shí)，我們將努力站在法律的正確一邊，并確保我們與當(dāng)今的許多內(nèi)容提供商建立深厚的關(guān)系。 在某些領(lǐng)域存在爭(zhēng)議，但我們正在努力解決這些問(wèn)題，我致力于解決這個(gè)問(wèn)題。 我們必須創(chuàng)建雙贏的生態(tài)系統(tǒng)，讓所有這些都能隨著時(shí)間的推移而發(fā)揮作用。

人們現(xiàn)在對(duì)網(wǎng)絡(luò)非常擔(dān)心的是搜索的未來(lái)。 當(dāng)您擁有一種可以根據(jù)網(wǎng)絡(luò)上的信息為您解答問(wèn)題的技術(shù)時(shí)，人們可能不再需要訪問(wèn)這些網(wǎng)站。 這似乎也可能對(duì)谷歌產(chǎn)生影響。 我還想知道您是否從自己的業(yè)務(wù)角度來(lái)考慮這個(gè)問(wèn)題。

Sundar Pichai：我們?cè)谒阉黝I(lǐng)域的獨(dú)特價(jià)值主張之一是，我們幫助用戶(hù)發(fā)現(xiàn)和學(xué)習(xí)新事物、找到答案，但始終著眼于與他們分享網(wǎng)絡(luò)上存在的豐富性和多樣性。 即使我們正在經(jīng)歷搜索生成體驗(yàn)之旅，這也是事實(shí)。 這是我們開(kāi)發(fā)產(chǎn)品的重要原則。 我不認(rèn)為人們總是在搜索中說(shuō)：“幫我回答一下吧?！?可能有一兩個(gè)問(wèn)題是你想要的，但即使你回來(lái)了，你也會(huì)學(xué)到更多，甚至在這段旅程中，會(huì)更深入。 我們始終希望確保我們做對(duì)了。 我認(rèn)為這不會(huì)改變。 重要的是我們要在那里取得平衡。

同樣，如果你深入地交付價(jià)值，那么你所交付的東西就具有商業(yè)價(jià)值。 從桌面到移動(dòng)設(shè)備，我們都遇到過(guò)類(lèi)似的問(wèn)題。 這對(duì)我們來(lái)說(shuō)并不新鮮。 根據(jù)我們所看到的一切以及用戶(hù)對(duì)高質(zhì)量廣告的反應(yīng)，我感到很舒服。 YouTube 是我們開(kāi)發(fā)訂閱模式的一個(gè)很好的例子。 這也起到了很好的作用。

您認(rèn)為明年，隨著這些產(chǎn)品開(kāi)始真正進(jìn)入市場(chǎng)并開(kāi)始互動(dòng)，人們的體驗(yàn)將會(huì)發(fā)生怎樣的變化？ 他們的經(jīng)歷會(huì)發(fā)生怎樣的改變？

Sundar Pichai：我認(rèn)為一年后，任何在 Google Docs 中開(kāi)始做某事的人都會(huì)期待一些不同的東西。 如果你把這些產(chǎn)品給用戶(hù)使用，然后讓他們放回到我們擁有的 Google 文檔版本中，比如說(shuō)，到 2022 年，他們會(huì)發(fā)現(xiàn)它已經(jīng)過(guò)時(shí)了。 就像，對(duì)于我的孩子來(lái)說(shuō)，如果他們沒(méi)有拼寫(xiě)檢查，他們從根本上會(huì)認(rèn)為它壞了。 你和我可能還記得在拼寫(xiě)檢查之前使用這些產(chǎn)品的感覺(jué)。 但我們比任何其他公司都在搜索中融入了如此多的AI，人們認(rèn)為這是理所當(dāng)然的。 這是我隨著時(shí)間的推移學(xué)到的一件事。 他們認(rèn)為這是理所當(dāng)然的。

就人們可以做的新事情而言，隨著我們開(kāi)發(fā)多模式功能，人們將能夠以以前無(wú)法完成的方式完成更復(fù)雜的任務(wù)。 并且會(huì)有更強(qiáng)大的實(shí)際用例。

參考資料：

https://www.technologyreview.com/2023/12/06/1084539/google-ceo-sundar-pichai-on-gemini-and-the-coming-age-of-ai/