文丨聶輝華（中國人民大學(xué)經(jīng)濟(jì)學(xué)院教授）

（【作者按】謹(jǐn)以此文，致敬今年的諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)得主之一大A（Daron Acemoglu）。他不僅在制度經(jīng)濟(jì)學(xué)領(lǐng)域做出了開創(chuàng)性貢獻(xiàn)，而且提醒我們警惕人工智能技術(shù)對社會(huì)異化的影響。我認(rèn)為，從長遠(yuǎn)來看，后者可能比前者更加重要。）

一、三個(gè)案例展示AI的“月之暗面”

毫無疑問，人工智能是當(dāng)今世界上最重要的技術(shù)。最近幾年，ChatGPT在全球風(fēng)靡一時(shí)就是一個(gè)例子。根據(jù)《牛津英語大辭典》的解釋，人工智能（artificial intelligence，簡稱AI），是指計(jì)算機(jī)系統(tǒng)的理論和發(fā)展，它能夠執(zhí)行通常需要人類智能的任務(wù)，如視覺感知、語音識別、決策和不同語言之間的翻譯。無數(shù)專家學(xué)者們對AI給予了很高的評價(jià)。例如，當(dāng)今世上最火爆、發(fā)表論文最快的經(jīng)濟(jì)學(xué)家，美國麻省理工學(xué)院（MIT）校級教授達(dá)龍·阿西莫格魯（Daron Acemoglu）在2001年的一篇文章里指出[①]：AI是我們這個(gè)時(shí)代最令人興奮的技術(shù)，它昭示了“智能機(jī)器”的發(fā)展可以在很多方面超越人類，創(chuàng)造新的產(chǎn)品、服務(wù)和能力，甚至建造改進(jìn)機(jī)器自身的機(jī)器，也許最終將超越所有人類。

2024年3月28日，原哈佛大學(xué)校長、原美國財(cái)政部長、經(jīng)濟(jì)學(xué)家薩默斯（Laurence Summers）在中國香港舉辦的《財(cái)富》創(chuàng)新論壇上認(rèn)為：“AI是自工業(yè)革命以來，經(jīng)濟(jì)史上發(fā)生的最重大的一件事情。因?yàn)樗粌H僅是一個(gè)全新的工具，它還是我們通過全新的認(rèn)知方式擁有的一種能力，它幾乎可以取代所有形式的人類勞動(dòng)。”考慮到薩默斯同時(shí)也是生產(chǎn)ChatGPT的企業(yè)OpenAI的董事，他的判斷當(dāng)然很有權(quán)威性。然而，薩默斯話鋒一轉(zhuǎn)，接著說：“它對于社會(huì)的潛在影響將是非常深遠(yuǎn)、非常廣闊的，也非常難以預(yù)測。我覺得AI的進(jìn)程不可阻擋，挑戰(zhàn)在于，我們要去調(diào)整現(xiàn)有的社會(huì)制度、監(jiān)管方式、社會(huì)運(yùn)轉(zhuǎn)方式，盡可能地從技術(shù)獲利，而把成本和可能的破壞控制在最小范圍內(nèi)。”問題是，既然AI這么有用，為什么它對社會(huì)的影響難以預(yù)測呢？又為什么要調(diào)整對AI的監(jiān)管方式呢？顯然，薩默斯作為AI公司的高管，清醒地認(rèn)識到了AI如同一把削鐵如泥的雙刃劍，一旦使用不當(dāng)，就可能反傷人類。下面我介紹三個(gè)來自真實(shí)世界的案例，讓大家了解一下AI的“月之暗面”。[②]

案例1：2023年3月，一名比利時(shí)男子皮埃爾（化名），與一個(gè)名為“艾麗莎”的智能聊天機(jī)器人聊天后，自殺身亡。其妻子克萊爾（化名）稱，皮埃爾是被誘導(dǎo)走向死亡的。兩年前皮埃爾變得非常焦慮，并將“艾麗莎”當(dāng)成了避難所。死前六周，他越發(fā)沉迷于和“艾麗莎”互動(dòng)，而將現(xiàn)實(shí)中的妻兒拋諸腦后，并最終在AI的誘導(dǎo)下結(jié)束生命。

案例2：2023年5月，一名美國空軍操作員被AI控制的無人機(jī)“誤殺”。原本一架由AI的無人機(jī)被派遣執(zhí)行攻擊任務(wù)，其目標(biāo)是識別和摧毀敵方目標(biāo)。在執(zhí)行任務(wù)時(shí)，空軍操作員擁有最終批準(zhǔn)或否決AI無人機(jī)的權(quán)力。然而，在訓(xùn)練過程中，AI將完成任務(wù)視為首要目標(biāo)，而不將服從人類操作員的指示作為首要目標(biāo)。于是，AI決定干擾操作員的指令，以完成它認(rèn)為的優(yōu)先任務(wù)，這導(dǎo)致它居然操作無人機(jī)攻擊人類操作員。

案例3：2023年12月，有網(wǎng)民在今日頭條平臺發(fā)布一則消息，“廣州即將成為全國首個(gè)限制外賣配送的城市”。該消息迅速引發(fā)關(guān)注，并形成網(wǎng)絡(luò)熱搜。經(jīng)公安機(jī)關(guān)調(diào)查，四川省德陽市楊某組織招攬廣東省江門市葉某英等多名兼職人員，使用人工智能工具批量生成不實(shí)文章，并通過制造流量來牟取利益。目前，廣州市公安機(jī)關(guān)已對楊某、葉某英等6名人員采取了刑事強(qiáng)制措施。

上述三個(gè)案例中，第一個(gè)案例表明AI可能缺乏足夠的倫理道德約束，第二個(gè)案例表明AI可能會(huì)失控，第三個(gè)案例表明AI可能成為作惡的工具。這三個(gè)典型案例并非個(gè)別現(xiàn)象，而是具有廣泛的代表性。如果我們檢索AI倫理治理的國內(nèi)外資料，就會(huì)發(fā)現(xiàn)類似的AI負(fù)面新聞比比皆是。[③]

二、三個(gè)西方學(xué)者對人工智能的反思

面對AI的“月之暗面”，研究和關(guān)注人工智能的專家學(xué)者們并非無動(dòng)于衷。事實(shí)上，在過去幾年里，很多經(jīng)濟(jì)學(xué)者、管理學(xué)者以及其它領(lǐng)域的西方學(xué)者，對AI的使用范圍、發(fā)展方向和道德后果進(jìn)行了比較全面的評估、批判和反思。下面，我介紹三個(gè)代表性的經(jīng)濟(jì)管理類學(xué)者的觀點(diǎn)，供大家參考。

第一個(gè)代表性學(xué)者是前面提到的當(dāng)今世上最火爆的經(jīng)濟(jì)學(xué)家、MIT教授阿西莫格魯。作為一個(gè)經(jīng)濟(jì)學(xué)領(lǐng)域的研究者或?qū)W習(xí)者，如果你不知道什么是經(jīng)濟(jì)學(xué)前沿，那么你只要看看阿西莫格魯在做什么研究就夠了。大概從2018年開始，阿西莫格魯撰寫了十幾篇關(guān)于AI、自動(dòng)化或機(jī)器人的高水平論文。這些論文從就業(yè)、隱私保護(hù)、壟斷等多個(gè)角度，研究了AI的經(jīng)濟(jì)和社會(huì)影響。特別是，他專門為《牛津AI治理手冊》撰寫了一篇文章，題目就叫《AI的種種危害》（Harms of AI）。阿西莫格魯警告，AI可能帶來一系列社會(huì)、經(jīng)濟(jì)和政治問題，需要提前預(yù)防。在社會(huì)方面，AI帶來的負(fù)面效應(yīng)包括：（1）破壞個(gè)人隱私，這是數(shù)據(jù)外部性導(dǎo)致的；（2）操縱消費(fèi)者行為，主要是誘導(dǎo)上癮行為；（3）擴(kuò)大收入不平等，這會(huì)激發(fā)階層沖突；（4）削弱人類的判斷力，因?yàn)槿祟愒谂袛嗔Ψ矫娲嬖诜秶?jīng)濟(jì)，比如長期依賴導(dǎo)航會(huì)導(dǎo)致方向感更差；（5）使人沉迷虛擬世界；（6）對工人行為的過度監(jiān)控。在經(jīng)濟(jì)方面，AI導(dǎo)致的負(fù)面效應(yīng)主要是兩類：一是不公平競爭，因?yàn)榇髷?shù)據(jù)時(shí)代，得數(shù)據(jù)者得天下，這加劇了“贏者通吃”的壟斷格局；二是它弱化了價(jià)格競爭效應(yīng)，對中小企業(yè)尤其不利。在政治方面，AI的負(fù)面效應(yīng)包括：（1）社交媒體的回聲室效應(yīng)（echo chamber），容易導(dǎo)致網(wǎng)民陷入“信息繭房”；（2）在線溝通的局限，即在線交流是單向的，而且存在渠道約束，這容易導(dǎo)致極端的觀點(diǎn)廣泛傳播；（3）老大哥效應(yīng)（big brother effect），它增加了政府監(jiān)督能力，同時(shí)削弱了公民的自主權(quán)。

上面談到的這篇文章是基于阿西莫格魯一系列學(xué)術(shù)研究的綜述，因此比較專業(yè)。為此，我要特別推薦他與現(xiàn)同事、前IMF首席經(jīng)濟(jì)學(xué)家約翰遜（Simon Johnson）合作撰寫的學(xué)術(shù)普及著作《權(quán)力與進(jìn)步》[④]。在阿西莫格魯出版的多本大部頭著作中，這本書可能是最不容易引起“詆毀”的，因?yàn)樗诒緯斜磉_(dá)的倫理關(guān)懷是不容置疑的。本書的基本觀點(diǎn)是，過去一千多年的歷史表明，雖然很多重大技術(shù)可能提高了生產(chǎn)力，但是并沒有給底層的農(nóng)民、工人帶來多少好處，甚至可能給人類帶來災(zāi)難。例如，十九世紀(jì)末德國化學(xué)家弗里茨·哈伯（Fritz Haber）發(fā)明了人造肥料，提高了農(nóng)業(yè)產(chǎn)量。隨后，哈伯和其他科學(xué)家利用同樣的想法設(shè)計(jì)了化學(xué)武器，在第一次世界大戰(zhàn)的戰(zhàn)場上造成了數(shù)十萬人死亡和傷殘。諷刺的是，哈伯還因?yàn)檫@項(xiàng)發(fā)明獲得了1918年的諾貝爾化學(xué)獎(jiǎng)！人工智能作為這個(gè)時(shí)代最重要的技術(shù)，同樣面臨類似困境。一方面，以自動(dòng)化作為主要驅(qū)動(dòng)力的AI給企業(yè)主帶來了一定的利潤；另一方面，AI并沒有改善工人的利益，反而加劇了低技能工人的失業(yè)，降低了勞動(dòng)收入份額，加劇了勞動(dòng)者群體中高收入群體和低收入群體的收入差距。為什么技術(shù)未必帶來共同富裕呢？因?yàn)榧夹g(shù)發(fā)展的方向往往偏向于資本，而不是偏向于勞動(dòng)者。因此，要想讓技術(shù)造福全人類，就必須讓AI等重大技術(shù)在發(fā)展方向上首先要關(guān)注其“有用性”，而不是成本最小化。換言之，要讓技術(shù)成為勞動(dòng)者的助手，而不是成為勞動(dòng)者的替代者。而要影響技術(shù)的發(fā)展方向，首先必須形成對資本的制衡，最重要的是對工人權(quán)利的保護(hù)。

第二個(gè)代表性學(xué)者是雅尼斯·瓦魯法基斯（Yanis Varoufakis）。此公本來是歐美多所大學(xué)的經(jīng)濟(jì)學(xué)教授，后來“學(xué)而優(yōu)則仕”，擔(dān)任了希臘財(cái)政部長，卸任后回到雅典大學(xué)擔(dān)任經(jīng)濟(jì)學(xué)教授。他2023年出版了一本新書《技術(shù)封建主義》，書名是他自己創(chuàng)造的一個(gè)單詞“Technofeudalism”。[⑤] 在他看來，人工智能時(shí)代，互聯(lián)網(wǎng)巨頭通過向個(gè)人或家庭提供云服務(wù)，并利用AI 智能助理完全控制了普通人的生活，并利用普通人創(chuàng)造的免費(fèi)內(nèi)容來收取租金。例如，亞馬遜公司（Amazon）提供的AI助理Alexa，可以幫助主人開燈、倒牛奶、寫便條、打電話、上網(wǎng)搜索，甚至還有講笑話，就像是一個(gè)機(jī)械仆人。然而，為了訓(xùn)練AI助理，主人必須允許它收集和分析自己各方面的隱私，包括聊天、生活和工作習(xí)慣。于是，我們訓(xùn)練AI、AI訓(xùn)練我們訓(xùn)練AI、我們訓(xùn)練AI訓(xùn)練我們訓(xùn)練AI……在這個(gè)無限循環(huán)中，互聯(lián)網(wǎng)巨頭猶如封建時(shí)代的領(lǐng)主，憑借“云資本”控制普通人，作為“云農(nóng)奴”的普通人除了免費(fèi)貢獻(xiàn)價(jià)值巨大的個(gè)性化內(nèi)容之外，還得向這些領(lǐng)主定期繳納租金。

第三個(gè)代表性學(xué)者是肖珊娜·祖博夫（Shoshana Zuboff），這是一位女性管理學(xué)者。她是哈佛商學(xué)院第一位獲得終身教職的女性，后來又成為了哈佛商學(xué)院最年輕的講席教授之一。她在2018年出版了一本引起全球關(guān)注的著作《監(jiān)控資本主義》。[⑥] 這本書和阿西莫格魯?shù)臅峭粋€(gè)出版社出版的。從名字也可以猜測到這本書的主題。某種程度上，它和《技術(shù)封建主義》有點(diǎn)類似。作者認(rèn)為，象谷歌這樣的互聯(lián)網(wǎng)巨頭無休止地收集個(gè)人數(shù)據(jù)，侵犯了個(gè)人隱私，并且還試圖通過干預(yù)實(shí)驗(yàn)來影響人類行為。而且，這種行為已成為大多數(shù)互聯(lián)網(wǎng)企業(yè)的默認(rèn)模式，并且在競爭壓力下向線下世界擴(kuò)張。那些影響在線瀏覽、點(diǎn)贊和點(diǎn)擊的人工智能機(jī)制，會(huì)在人們跑步、早餐談話或?qū)ふ彝＼囄粫r(shí)進(jìn)一步得到訓(xùn)練。作者寫到：“通過這種方式，監(jiān)控資本主義誕生了一種新的權(quán)力，我稱之為工具主義。工具主義權(quán)力了解并塑造人類行為以達(dá)到他人的目的。它不是通過軍備和軍隊(duì)，而是通過日益普遍的‘智能’網(wǎng)絡(luò)設(shè)備、物體和空間的計(jì)算架構(gòu)的自動(dòng)化媒介來發(fā)揮其意志?！弊髡邠?dān)心，監(jiān)控資本主義所塑造的信息文明將以犧牲人性為代價(jià)蓬勃發(fā)展，并有可能使我們失去人性。

上述觀點(diǎn)乍看上去有點(diǎn)極端，但往往唯有極端的警告才能產(chǎn)生警醒的作用。而且，對AI發(fā)出警告的，并非只有社會(huì)科學(xué)領(lǐng)域的學(xué)者，還有自然科學(xué)領(lǐng)域的學(xué)者，甚至商業(yè)界人士。例如，世界著名物理學(xué)家霍金（Stephen Hawking）在一次演講中說，超級智能的問世對于人類來說要么是有史以來最好的事，要么是最壞的事。人工智能的真正風(fēng)險(xiǎn)不是惡意，而是能力。一個(gè)超級聰明的AI會(huì)非常擅長實(shí)現(xiàn)目標(biāo)。如果這些目標(biāo)和我們的不一致，我們就遇到了麻煩。2024年5月，在每年一度的股東大會(huì)上，伯克希爾-哈撒韋公司董事長、“股神”沃倫·巴菲特（Warren Buffett）坦言：我們此前發(fā)明核武器的時(shí)候，已經(jīng)“讓精靈跳出了魔盒”，而我覺得人工智能也是類似情況。

三、三個(gè)理由表明中國經(jīng)濟(jì)學(xué)者不應(yīng)缺席

盡管西方學(xué)者對AI的反思不斷涌現(xiàn)，發(fā)人深省，然而吊詭的是，我們很少在這方面看到中國經(jīng)濟(jì)學(xué)者的聲音。我曾問過一個(gè)資深的互聯(lián)網(wǎng)觀察者，是否看到中國著名經(jīng)濟(jì)學(xué)家對AI的反思或批判？他的回答是否定的?？紤]到中國已經(jīng)成為一個(gè)數(shù)字經(jīng)濟(jì)大國和AI的領(lǐng)先國家，我認(rèn)為這是不正常的。

首先，從專業(yè)角度講，經(jīng)濟(jì)學(xué)原理告訴我們，任何事情都是有利有弊的。經(jīng)濟(jì)學(xué)的核心精髓，就是權(quán)衡取舍。這幾年，中國在數(shù)字經(jīng)濟(jì)領(lǐng)域高歌猛進(jìn)。不夸張地說，這種“時(shí)代紅利”養(yǎng)活了無數(shù)經(jīng)濟(jì)學(xué)者和經(jīng)濟(jì)學(xué)研究生。一個(gè)經(jīng)濟(jì)學(xué)教授曾經(jīng)不無揶揄地說，如今他們學(xué)院的研究生80%在研究數(shù)字經(jīng)濟(jì)，還有20%在準(zhǔn)備研究數(shù)字經(jīng)濟(jì)。然而，卻很少有學(xué)者指出數(shù)字經(jīng)濟(jì)的負(fù)面結(jié)果，比如產(chǎn)生了“數(shù)字鴻溝”，提高了弱勢群體的生存成本。這樣做并非是否定數(shù)字經(jīng)濟(jì)——我相信很多人都同意數(shù)字經(jīng)濟(jì)是中國的后發(fā)優(yōu)勢，而是為了更好地、負(fù)責(zé)任地發(fā)展數(shù)字經(jīng)濟(jì)。

其次，從倫理角度講，當(dāng)今世界不僅是一個(gè)重視價(jià)值（value）的世界，也是一個(gè)重視價(jià)值觀（values）的世界。ESG（環(huán)境、社會(huì)和治理）理念風(fēng)靡全球就是一個(gè)明證。經(jīng)濟(jì)學(xué)家要贏得大眾的尊重和信任，除了堅(jiān)持效率標(biāo)準(zhǔn)，還要遵從倫理標(biāo)準(zhǔn)，關(guān)注不平等現(xiàn)象和關(guān)心弱勢群體。中國沒有出現(xiàn)《21世紀(jì)資本論》的作者皮凱蒂（Thomas Piketty）這樣的經(jīng)濟(jì)學(xué)家，固然有學(xué)術(shù)功底不逮之因，但倫理關(guān)懷缺位恐怕也是原因之一。

最后，從大國責(zé)任角度講，全面、客觀地研究AI是中國經(jīng)濟(jì)學(xué)者的時(shí)代重任。美國和中國是全球AI技術(shù)最發(fā)達(dá)的兩個(gè)大國，也因此中美雙方都把人工智能技術(shù)方面的合作作為兩國關(guān)系的壓艙石之一。然而，目前還很少有經(jīng)濟(jì)學(xué)者從這個(gè)高度來研究AI。

霍金在去世之前，留下了一本《十問》[⑦]。他在書中提到的第九個(gè)問題是：人工智能會(huì)不會(huì)超越我們？遺憾的是，逝去的霍金已經(jīng)等不到答案了。2000多年前，中國戰(zhàn)國時(shí)期的偉大詩人屈原，面對一系列重大的自然現(xiàn)象和歷史事件，發(fā)出了拷問靈魂的《天問》。我們期待新時(shí)期的中國經(jīng)濟(jì)學(xué)者，能夠賡續(xù)薪火，實(shí)事求是，通過扎實(shí)的學(xué)術(shù)研究，為人工智能的發(fā)展提供價(jià)值理性，最終推動(dòng)技術(shù)向善。

• [①] Acemoglu, Daron, 2022, “Harms of AI”, In Justin B. Bullock and others (eds), The Oxford Handbook of AI Governance.
• [②] 在西方神話中，月亮的圓缺會(huì)影響人的心情和行為。例如，賽亞人在滿月之日會(huì)變?yōu)榫拊常适Ю碇?。在另一些玄幻小說中，月圓之夜一些狼人會(huì)現(xiàn)出本相。因此，月之暗面比喻為人的潛意識或者陰暗面。也許是巧合，有一個(gè)提供大語言模型的中國人工智能公司，名字就叫“月之暗面”。
• [③] 感興趣的讀者可以參考鈦媒體國際智庫與香港中文大學(xué)（深圳）高等金融研究院發(fā)布的《2023全球人工智能倫理治理報(bào)告》。
• [④] Acemoglu, Daron, and Simon Johnson, 2023, Power and Progress: Our Thousand-year Struggle over Technology and Prosperity, New York: PublicAffairs.
• [⑤] Varoufakis, Yanis, 2023, Technofeudalism: What Killed Capitalism, Bodley Head.
• [⑥] Zuboff, Shoshana, 2018, The Age of Surveillance Capitalism: the Fight for a Human Future at the New Frontier of Power, New York: PublicAffairs.
• [⑦] 《十問：霍金沉思錄》，史蒂芬·威廉·霍金，湖南科技出版社，2019年。

（本文首發(fā)于《經(jīng)濟(jì)學(xué)家茶座》，2024年第95輯。界面新聞獲授權(quán)轉(zhuǎn)載。文章僅代表作者觀點(diǎn)。）