文｜創(chuàng)瞰巴黎

Laure Soulier

法國(guó)索邦大學(xué)高級(jí)講師，“機(jī)器學(xué)習(xí)和信息訪問(wèn)”課題組成員

導(dǎo)讀

生成式人工智能（AI）的崛起引發(fā)了激烈的討論，究竟它將給我們帶來(lái)怎樣的未來(lái)？本文通過(guò)解析生成式AI的優(yōu)勢(shì)、局限性以及對(duì)社會(huì)的影響，試圖為讀者揭示一個(gè)全新的數(shù)字時(shí)代面貌。我們將探討AI的智能性、安全性和潛在的就業(yè)影響，以及未來(lái)的發(fā)展趨勢(shì)。生成式AI究竟是人類的助手還是威脅？它是否將顛覆我們的工作方式？

一覽：

• 生成式AI基于概率預(yù)測(cè)和深度語(yǔ)言模型輸出內(nèi)容，能根據(jù)用戶的需求生成各類文章、圖像、視頻等。
• 盡管目前的AI功能已十分強(qiáng)大，但仍不能與人類智能相提并論。AI只是根據(jù)訓(xùn)練數(shù)據(jù)生成看似最可信的內(nèi)容，并不能確保符合客觀事實(shí)。
• 如果訓(xùn)練數(shù)據(jù)集包含錯(cuò)誤信息或偏見(jiàn)，生成結(jié)果也不可避免地將其再現(xiàn)。
• 作為一種工具，生成式AI讓部分任務(wù)實(shí)現(xiàn)自動(dòng)化，這更有可能增加就業(yè)崗位而非使之減少。
• 生成式AI的未來(lái)發(fā)展趨勢(shì)仍不確定，但技術(shù)開(kāi)發(fā)必須考慮AI的環(huán)境足跡，減少其資源耗費(fèi)。

01 生成式AI將掀起一場(chǎng)“智能革命”嗎？

生成式AI是一種新型的AI——正確

AI系統(tǒng)種類繁多，其中生成式AI因其生成文章、圖像、視頻等內(nèi)容的強(qiáng)大能力而脫穎而出、備受關(guān)注。當(dāng)前最廣為人知的有ChatGPT、Bard、Midjourney、DALL-e等，其基礎(chǔ)是大型語(yǔ)言模型（LLM），即經(jīng)過(guò)大量數(shù)據(jù)訓(xùn)練的人工神經(jīng)元深度網(wǎng)絡(luò)，可根據(jù)具體情境和概率預(yù)測(cè)生成下一個(gè)單詞或相鄰像素。

生成式AI有智能——錯(cuò)誤

生成式AI之所以功能強(qiáng)大，是因?yàn)樗芑诤Ａ繑?shù)據(jù)，在多個(gè)元素之間建立聯(lián)系，發(fā)現(xiàn)規(guī)律。這是一個(gè)復(fù)雜的過(guò)程，涉及大量的數(shù)學(xué)運(yùn)算，但計(jì)算機(jī)能在極短時(shí)間內(nèi)完成。

僅憑此能說(shuō)計(jì)算機(jī)具有“智能”嗎？雖然AI生成的結(jié)果令人瞠目結(jié)舌，但其解決問(wèn)題的方法與人類認(rèn)知能力迥然不同。迄今為止，生成式AI只不過(guò)是多個(gè)弱AI（只能處理特定問(wèn)題）在同一個(gè)模型框架下的集合體，尚達(dá)不到“通用AI”的水平，無(wú)法表現(xiàn)出正常人類所具有的智能行為。

生成式AI無(wú)所不能——不確定

生成式AI目前應(yīng)用于眾多領(lǐng)域：音樂(lè)創(chuàng)作、游戲場(chǎng)景設(shè)計(jì)等等。至于最早用于捕捉單詞語(yǔ)義的語(yǔ)言模型，現(xiàn)在則能寫(xiě)文章、回答問(wèn)題、翻譯、甚至生成代碼。但AI也有其局限性：其能力與訓(xùn)練期間使用的數(shù)據(jù)集密切相關(guān)。訓(xùn)練數(shù)據(jù)集里包含的關(guān)聯(lián)和偏見(jiàn)，會(huì)導(dǎo)致錯(cuò)誤的輸出。例如，中文譯法語(yǔ)時(shí)，有些AI翻譯系統(tǒng)會(huì)傾向于將“護(hù)士”翻譯為“l(fā)’infirmière”（陰性詞），因?yàn)橛?xùn)練數(shù)據(jù)集里存在對(duì)該職業(yè)的性別偏見(jiàn)。

此外，生成式AI的輸出并不穩(wěn)定。就ChatGPT而言，同樣的問(wèn)題，提問(wèn)措辭不同，得到的答案也不同！這是因?yàn)樯墒紸I會(huì)將信息轉(zhuǎn)換為高維向量的數(shù)學(xué)運(yùn)算，具體運(yùn)作方式就像一個(gè)無(wú)人知曉的黑箱。目前，相關(guān)研究仍在進(jìn)展。

02 我們應(yīng)對(duì)生成式AI保持警惕嗎？

生成式AI會(huì)出錯(cuò)——正確

請(qǐng)大家切記，生成式AI并不能生成客觀事實(shí)，它只是根據(jù)訓(xùn)練數(shù)據(jù)生成看似最可信的內(nèi)容，但時(shí)而會(huì)前言不搭后語(yǔ)。如果訓(xùn)練數(shù)據(jù)集包含錯(cuò)誤信息或偏見(jiàn)，生成結(jié)果也不可避免地將其再現(xiàn)。總之，現(xiàn)有的AI不在乎結(jié)果是否準(zhǔn)確或有依據(jù)。這就是為什么AI時(shí)不時(shí)會(huì)胡言亂語(yǔ)，或生成荒誕不合理的圖像。

圖片來(lái)源: PI France

根據(jù)中國(guó)香港大學(xué)的一項(xiàng)研究[1]，ChatGPT 3.5版的準(zhǔn)確率只有64%。請(qǐng)問(wèn)你會(huì)相信一個(gè)每三句話就有一句不實(shí)的人嗎？

生成AI將起義叛亂，統(tǒng)治人類——錯(cuò)誤

每當(dāng)AI發(fā)展達(dá)到新階段，便會(huì)有人擔(dān)心機(jī)器人起義反抗人類，就像科幻小說(shuō)里所描述的。但我們不應(yīng)將AI過(guò)度擬人化：生成式AI只是概率預(yù)測(cè)器。雖然運(yùn)作方式復(fù)雜，但它沒(méi)有情感，也沒(méi)有意識(shí)，更不可能萌生反叛的念頭。

2015年，著名華裔美籍AI專家吳恩達(dá)（Andrew Ng）曾說(shuō)，擔(dān)心AI揭竿而起是杞人憂天，就像“尚未登陸火星，便開(kāi)始擔(dān)心火星上人口過(guò)?！?[2]。即使AI技術(shù)近年來(lái)有了很大的發(fā)展，但與引起擔(dān)憂的程度相比，仍然存在天壤之別。

生成性AI會(huì)引發(fā)信息安全問(wèn)題和泄密——不確定

今天，大多數(shù)生成式AI模型都托管在美國(guó)的服務(wù)器上。根據(jù)美國(guó)《愛(ài)國(guó)者法案》和《云法案》，美國(guó)政府有權(quán)收集這些服務(wù)器上的數(shù)據(jù)。此外，輸入給生成式AI的數(shù)據(jù)必然會(huì)被多次使用以優(yōu)化模型，但這也增加了數(shù)據(jù)在輸出中泄漏的可能性，對(duì)于對(duì)數(shù)據(jù)安全性和保密性要求較高的企業(yè)，存在一定的風(fēng)險(xiǎn)。當(dāng)然，這些企業(yè)可以將AI系統(tǒng)安裝在封閉的本地服務(wù)器上，或采用開(kāi)源生成式AI，作為替代方案。

歷史告訴我們，監(jiān)管政策遲早會(huì)跟上新技術(shù)發(fā)展的步伐。2023年底，歐盟理事會(huì)和歐洲議會(huì)就《人工智能法案》文本達(dá)成了一致[3]。未來(lái)該法案的內(nèi)容將繼續(xù)完善，與歐洲《通用數(shù)據(jù)保護(hù)條例》的宗旨保持一致，讓AI的使用有章可循。

03 生成式AI：是人類的助手還是威脅？

生成式AI可以代替人類完成某些任務(wù)——正確

生成式AI能在某些專業(yè)領(lǐng)域大展身手：它可以起草文章、編寫(xiě)代碼、制定員工培訓(xùn)方案…但生成的內(nèi)容仍需要人工把關(guān)，檢查準(zhǔn)確性，增添個(gè)性化內(nèi)容，確保合適的風(fēng)格語(yǔ)調(diào)。因此，AI只是一種提高工作效率、節(jié)省時(shí)間、改變?nèi)祟惞ぷ鞣绞降墓ぞ摺?/p>

不過(guò)，的確會(huì)有一些低附加值的工種因AI而消失，這是技術(shù)進(jìn)步的必然，正如隨著電燈的出現(xiàn)，歐洲便不再需要點(diǎn)亮煤油路燈的點(diǎn)燈人。

生成式AI將導(dǎo)致數(shù)百萬(wàn)人失業(yè)——錯(cuò)誤

我們應(yīng)理性看待生成式AI對(duì)就業(yè)的影響。歸根結(jié)底，AI只是一種為人類服務(wù)的高效新工具。勞動(dòng)力市場(chǎng)的變化取決于許多因素，新技術(shù)只不過(guò)是其中一個(gè)。雖然一些超市里有了自助掃碼結(jié)賬機(jī)，但收銀員這一職業(yè)并未就此消失。雖然在線學(xué)習(xí)愈發(fā)普遍，但傳統(tǒng)的學(xué)校和教師也并未被徹底取代。

生成式AI的崛起可能會(huì)催生新職業(yè)，比如“提示工程”：通過(guò)優(yōu)化輸入提示，引導(dǎo)模型生成高質(zhì)量輸出。國(guó)際勞工組織（ILO）指出：“生成式AI讓部分任務(wù)實(shí)現(xiàn)自動(dòng)化，這更有可能增加就業(yè)崗位而非使之減少?！?[4]

生成式AI還能走多遠(yuǎn)？–不確定

從長(zhǎng)期來(lái)看，生成式AI將如何發(fā)展？預(yù)測(cè)生成式AI的未來(lái)并不容易：畢竟幾年前沒(méi)人能預(yù)測(cè)出它的今天。然而，未來(lái)的一些趨勢(shì)已初露端倪，例如各種系統(tǒng)與生成式AI“雜交”——搜索引擎與AI結(jié)合，可以提高結(jié)果的準(zhǔn)確性，一定程度上杜絕AI“信口開(kāi)河”的情況。

最后，生成式AI的環(huán)境足跡也不容忽視。運(yùn)行這些模型需要大量的數(shù)據(jù)和算力，故耗能巨大。已經(jīng)有學(xué)者在研究低耗能AI，旨在減少其對(duì)資源的需求。

作者

Bastien Contreras

編輯

Meister Xia

參考資料

1. https://arxiv.org/pdf/2302.12095.pdf

2. https://www.wired.com/brandlab/2015/05/andrew-ng-deep-learning-mandate-humans-not-just-machines/

3. https://www.consilium.europa.eu/fr/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/

4. https://news.un.org/fr/story/2023/08/1137832