界面新聞記者 | 尹清露

界面新聞編輯 | 黃月

ChatGPT被不少人認為打開了通用人工智能（AGI）的大門。AGI具備和人同樣的智慧，甚至有可能超越人類，曾是科幻小說中的主要議題，現(xiàn)如今，人們的歡欣和恐懼似乎業(yè)已成真。

就在這波風暴來臨的前夕，小說作者慕明推出了首部中文短篇小說集《宛轉環(huán)》，從古代到今天的神經(jīng)網(wǎng)絡，再到近未來AI對人類的超越，慕明對人機關系做出了自己的剖析和思考。

慕明畢業(yè)于北京大學智能科學系，本職工作是谷歌程序員，2016年開始創(chuàng)作中短篇科幻小說。綜合了理工科背景和科幻小說寫作的她，是如何看待機器寫作與聊天的熱潮的？又如何回應與技術相關的種種爭議？在這次專訪中，從ChatGPT聊起，她談到了技術帶來的可能性與代價以及“機器暫時寫不了的東西”——那也是慕明正在做的：編織多層次的故事，并由此恢復人的復雜性。

01 技術談：為什么人不能通過機器的反饋來學習呢？

小說集的第一篇《鑄夢》寫下的正是機器學習的變遷史。慕明采用歷史重構的方法，讓人工智能附身在先秦時代的機關術上。小說以兩名少年制造偶人為故事主線，指出機器的學習原本是基于規(guī)則，但是由于規(guī)則繁多，這種方法很快出現(xiàn)了局限性，后來，人工智能進入了另一條道路，也就是自下而上、在賞罰和反饋中進行強化學習（ChatGPT基于的大型語言模型同樣通過強化學習實現(xiàn)訓練）。然而，人類無法像機器那樣快速迭代，習慣的還是自上而下的“教與學”。學習方式的差異，似乎注定了人與機器難以相互理解。

在之后的長篇里，慕明想提出“相變點”的概念。她這樣解釋這一概念：“人類和語言、信息的耦合關系從未像今天這樣密切，就像水升溫到100度會沸騰、由液態(tài)變?yōu)闅鈶B(tài)那樣，我認為，信息對人類社會形態(tài)的塑造也正在處于一個‘相變點’。有人在社交網(wǎng)絡上因言獲罪，素人掌握了說話技巧就能搖身一變成為大V，這都是正在發(fā)生的事?！被ヂ?lián)網(wǎng)信息建構在人類從古至今的心智總和之上，所以為了跟最新的AI打交道，我們也要去學習人類知識的精華，挖掘出其中的現(xiàn)代性。

界面文化：許多人認為ChatGPT開啟了通用人工智能的未來，但是科幻作家特德·姜指出，它更像是保留了模糊文本的“壓縮軟件”。你的寫作深受特德·姜的影響，不知會怎么看待他的觀點？

慕明：我發(fā)現(xiàn)，在近幾年的科技熱潮中，中文互聯(lián)網(wǎng)的狂熱程度甚至比英文世界還要高一點，這是非常值得觀察的現(xiàn)象。在高熱度中出現(xiàn)了兩種聲音，一種是非?？春?，很多國內(nèi)公司已經(jīng)說要對標ChatGPT開發(fā)模型。另一種是特德·姜或者格雷格·伊根（注：科幻作家，以科學基礎嚴謹?shù)挠部苹弥Q）這樣的專業(yè)人士，他們會保持一定警惕。

我認為，首先要注意說話者的立場是什么。特德·姜有這樣的看法，是因為他對ChatGPT的期望是大而全的專家系統(tǒng)，我許多做研究的朋友也希望它能給出專業(yè)的資料匯編，所以會在意它是完美的無損壓縮還是有瑕疵的有損壓縮。但是，如果你把它當做智力上和自己差不多、可以幫助激發(fā)靈感的普通人，那么ChatGPT的模糊性反而成為了優(yōu)點。

在我看來，“壓縮軟件”并不是很有力的批評。我們應該退一步先考慮人的存在，人類的學習也是一個壓縮的過程，無論是讀書還是聽課，信息的傳遞一定是有損耗的。有些新媒體文章寫得很好，但必須要取抓人眼球的標題，特德·姜這篇文章寫了幾千字，有非常精密的論證和邏輯推演，但讀者接收到的也只是單一的觀點。所以禪宗會說“不立文字”，古人早就有了這個意識。

界面文化：一些專家指出，人工智能的表達無法超出已有的資料庫，也沒有真正的原創(chuàng)性，韓少功的文章《當機器人成立作家協(xié)會》就提到人機的主從關系難以改變。不過也有人看到，機器寫作沖擊到了人文學科，國外和中國香港地區(qū)的某些大學已禁用ChatGPT輔助寫論文。為什么我們既覺得機器寫作無法超越人類，又擔憂它的沖擊呢？

慕明：人類作為一個整體探討起來是有難度的，而很多專家往往是拿人的最高智慧去跟機器比。作為還在學習寫作的新人作者，我對這類表述比較敏感，畢竟學習的過程就需要大量的模仿練習，所謂的創(chuàng)新在很多時候就來源于對已有知識的重新整合。作家維舟說：“我不會被AI取代，我就是AI?！蔽乙舱f過類似的話。當我們把位置放得低一點，反而覺得ChatGPT蠻親切的，像一個學習能力強但有局限的孩子，會很期待它后面的表現(xiàn)。

對我來說，ChatGPT最好的地方在于，創(chuàng)新本來是模糊的概念，而它可能可以提出創(chuàng)新的參考線，也就是把人類心智勞動成果的價值量化了。比如新推出一個小說家，我們可以讓ChatGPT去看看他是否容易被模仿，還可以用ChatGPT作為計量單位，看這個人的創(chuàng)作是0.8倍ChatGPT還是1.5倍，這都是很有意思的應用場景。

并且，人工智能并非憑空出現(xiàn)，它的迭代本身就有人類的幫助，既然機器可以通過人類來學習，為什么人不能通過機器的反饋來學習呢？20年前，從事文字工作還要查閱圖書館資料，而現(xiàn)在搜索引擎變成了標準技能。就像愛德華·阿什福德·李（注：《柏拉圖與技術呆子》《協(xié)同進化：人類與機器融合的未來》作者，計算機科學家）提出的那樣，技術和人是協(xié)同進化的，人工智能不只是工具，而是很大程度上塑造了我們今天的樣子。

對于人文學科的沖擊，其實關鍵之處在于，機器重新定義了什么問題更值得關注，又解放了哪些生產(chǎn)力。國內(nèi)的人文學科向來注重資料的爬梳，但是當機器可以替代很多工作，我們就要審視還要不要重視這類功夫。文學作者通常很看重語言，但是當機器很快地學習到語言風格，我就會想怎么寫出機器暫時寫不出的東西，比如邏輯更強、有很多隱含內(nèi)容的文本。

界面文化：在ChatGPT的討論中，許多人對此抱有技術躍遷的樂觀態(tài)度；另一方面，OpenAI被曝出在非洲雇傭外包的血汗勞工，他們每天要接受關于大量虐待、謀殺的內(nèi)容。你在小說中也寫過沒有高科技眼鏡而備受歧視的人。你會如何看待這種技術的矛盾性呢？

慕明：就我所在的行業(yè)和科幻圈而言，大部分人是樂觀的，而人文背景深厚的從業(yè)者會更強調(diào)技術對人的異化，《黑鏡》《人生切割術》這些影視劇也都對高科技持批判態(tài)度——狂熱和抗拒同時存在于一個社會里，這非常有意思。當你不理解技術的細節(jié)時，就容易形成傾向性，而我本人有兩方面的背景，愿意用正反兩方面的思維去推演，所以寫小說時會提供兩個POV（視角）。具體來說，我的小說處理的都是“可能性”和“代價”的問題，兩者缺一不可。

這也可以回應為什么我要寫古代的故事?，F(xiàn)在一提到“technology”就是20世紀以來的信息技術，實際上這個詞指的就是“技術”，手工藝也是技術。而我想去考察當時的技術變革——當然，我們現(xiàn)在稱其為歷史事件——考察在當時的語境下，技術對當事人產(chǎn)生了怎樣的沖擊，人又如何應對變化。《鑄夢》這篇故事就很明顯，它講述了從沒有青銅到大規(guī)模生產(chǎn)青銅的過程。張光直在《藝術、神話與祭祀》中寫到，青銅的出現(xiàn)和集權是相生相伴的，因為鑄造需要大量人力和精細分工，以及工頭進行管理，才會出現(xiàn)部落兼并到封建社會的轉制，技術的發(fā)展又產(chǎn)生了兵器，進一步鞏固了統(tǒng)治。當我們把技術放到歷史長河中去看，也許就不會對技術有如此強的恐慌了。實際上，某種意義來說，文字的出現(xiàn)就比人工智能可怕許多，掌握文字的人曾經(jīng)覺得自己掌握了世間的奧秘，但至少使用人工智能的人不會再這樣想了。

02 創(chuàng)作談：人能寫但機器寫不出的作品是什么？

人能寫出而機器寫不出的是什么？在慕明看來，當人工智能把人類引以為傲的學習行為拉下神壇，寫作者更需要的是深層理解社會機制、再有機地將信息組織起來的能力，找到分裂的體系之下萬事萬物的密切關聯(lián)。她在自序中提到，在信息爆炸的時代，類似《紅樓夢》的整體性敘事是缺失的。她引用托卡爾丘克的諾貝爾獲獎演說指出：“文學還沒有準備好講述未來，講述世界的高速轉變——缺乏隱喻、視角和新的寓言。”

同名小說《宛轉環(huán)》就是這樣一個有關復雜性的故事。晚明的一對士紳父女偶然遇到“宛轉環(huán)”，玉環(huán)內(nèi)壁繪有細微的山川林泉，還被旋轉了半圈，顯然是莫比烏斯環(huán)的古代再現(xiàn)。莫比烏斯環(huán)實現(xiàn)了不同維度的時空轉移，也對應著中國園林中古人的“琢空之法”，通過巧妙地布置風景，一園山林也能容納廣闊的湖海。

界面文化：你的學科背景是智能科學，從事的也是相關行業(yè)，為什么會在這之外去寫科幻小說？它與實踐性的工作不同在哪里？

慕明：最開始肯定是想整合自己的兩種知識體系，一方面是理工科技術背景的工作經(jīng)驗，另一方面是作為長期閱讀者的廣泛閱讀經(jīng)驗，我發(fā)現(xiàn)當代生活中對這兩個世界的表述體系是分裂的。英國科學家C.P.斯諾在1969年提出了“兩種文化”的概念，他認為由于現(xiàn)代學科高度分野，了解莎士比亞的人并不了解牛頓基本定律，所以我選擇科幻這種有較強理性色彩的小說作為處理和呈現(xiàn)多維度信息的媒介。

我的小說常常用“合流”作為構思的起點，這也是我從劉宇昆的短篇小說中學到的技巧。在我的小說中，核心的技術概念和推演思路往往是當代的、舶來的，但是文化背景、視角、人物、思想觀念等等則是非當代的、中國的。比如《宛轉環(huán)》可以看作是晚明版本的《星際穿越》，《鑄夢》可以看作是先秦版本的《西部世界》（第一至第二季），《假手于人》則是《斷魂槍》或是《俗世奇人》在近未來環(huán)境和技術進步下的新演繹。

不過我越寫越發(fā)現(xiàn)，除了在領域之間“架橋”，這種寫作方式還有很多功能，有時僅僅是對技術本身進行一番社會層面的推演就能得到很好的反思。比如我去年寫的《誰能擁有月亮》，其中提到的3D建模和NFT都是特別切近的技術，已經(jīng)滲透到了普通人的日常生活中。

界面文化：《宛轉環(huán)》的故事就體現(xiàn)了你說的合流和彌合兩個世界。你是怎么想到這個故事的？

慕明：我在讀明史時發(fā)現(xiàn)了紀錄片《昆曲600年》，其中一集講的是明末政治人物祁彪佳，他看起來是嚴肅的政治領袖，但同時也是很好的戲曲和園林專家，但我們的歷史不會處理這些。這讓我看到了人的復雜性，以及人和故事的相似之處，因為故事具有模糊性，可以多層次地呈現(xiàn)世界的結構。

我認為，現(xiàn)在流行的“降維打擊”過于簡單粗暴了，是對真實世界的簡化，而文藝作品應該去做“升維”的工作，不僅是從二維升入三維空間，也是通過編織故事去還原人的復雜。“宛轉環(huán)”是一件觀之可愛、可反復賞玩、內(nèi)中又有大乾坤的小工藝品，這也是對本書的自指和期待的定位。在我看來，能否禁得住“重讀”是評判文學作品及作者思維能力的一個重要標準，而能不能以外在（較淺層的特征）吸引可能的讀者，又能不能舉重若輕，將大問題、大手筆圓融地布置在小空間內(nèi)，傳遞給有緣人，則是“技藝”或者說是“匠心”的體現(xiàn)。

03 女性談：科幻需要女性力量，反思技術需要女性維度

在思考“機器能否寫作”時，我們傾向于代入人類的最高水平，這其中有男性化與精英化的思考。在慕明看來，當新興技術行業(yè)對功成名就者造成沖擊，女性反而能在沒那么在乎的情況下?lián)肀录夹g，覺得“這個東西挺好的，跟我們差不多”。

短篇《誰能擁有月亮》就講述了建模行業(yè)中一名女性的故事，何小林從小和媽媽過著貧苦的日子，卻在機緣巧合下學習了建模技術，并開始鑄造NFT藝術品。文中寫到，非同質(zhì)化代幣滿足了人們自我表達和擁有的渴望，但何小林是最早使用CC0級創(chuàng)作共享許可的藝術家，這意味著她放棄了所有個人權益。比起擁有，“正是不擁有讓她的作品呈現(xiàn)出豐富的形態(tài)。”

在采訪的最后，我們從女性與機器的親近性出發(fā)，聊到了性別維度可以如何幫助我們反思技術的變遷，如何啟發(fā)女性創(chuàng)作者在現(xiàn)在的時代中尋求變革。

界面文化：科幻小說怎樣幫我們反思人機關系？

慕明：科幻從一開始就在探討人機關系，比如瑪麗·雪萊的《弗蘭肯斯坦》，它處理的關系是“造物與被造物”。第二個層面是“控制與被控制”，許多反烏托邦作品通過這個主題引入了對權力、不平等的探討。最后，人和人工智能還有一層相互映照的關系，人要通過人工智能來反身理解自己。

故事是一個很好的體裁，可以把這些關系都講出來。分別闡述三個主題的經(jīng)典有許多，我的作品則嘗試同時探討三者。人工智能又是一個想象空間非常廣的話題，除了科幻作品中常見的強人工智能（AGI），有人工智能成分的科技大家每天都在用，它離生活很近，并不像理論物理這么抽象，作家能利用的素材也非常多。有些國民作家在寫人工智能，作品也有鮮明的個人特色，比如麥克尤恩在寫《我這樣的機器》時會借此討論英國在全球化中的處境，石黑一雄的《克拉克和太陽》在情感方面深入一些。

當然，你也能看出他們的立場和局限，就像剛剛討論特德·姜那樣。這兩位作家都是男性，那么在麥克尤恩筆下，無所不能的人工智能一定是健壯的男性，石黑一雄寫的人工智能則是能力有缺陷的小女孩。所以，我們每個人都可以想一想，你自己和人工智能是怎樣的關系，你是不是滿足于現(xiàn)有的敘事、滿足于知名作家的看法？

界面文化：你的小說中經(jīng)常出現(xiàn)女性角色，科技的發(fā)展提高了女性的主體性地位，但有時也會加劇女性的被剝削，這又是一重矛盾。在你看來，性別維度可以怎樣幫助我們反思技術變遷呢？

慕明：事實上，“文明中被遮蔽的女性敘事傳統(tǒng)”是這本書的骨架之一?！蹲孕颍簭脑车缴瘛分蟹磸吞崾?，無論是在個體經(jīng)驗還是在群體歷史中，女性作為母親，都是最早的講述者。“講述”是遠古人類最初也是最重要的力量。但是自從出現(xiàn)農(nóng)業(yè)，進入了工具的時代，力量的主要形式由心靈、精神轉向身體能力，這一轉變就是技術演進帶來的后果，在某種程度上促進了父權制和私有制的出現(xiàn)，女性漸漸失卻了力量，“講述”也被男性壟斷了。這一理論在恩格斯、波伏娃等人的論述中都有出現(xiàn)。

在《鑄夢》里，女性講述者除了故事，什么都沒有。她們無法對抗時代，只能默默地等待有緣人的傳承?！碍h(huán)”除了上面提過的種種含義，也是傳承的象征。第一次，由夏姬給了弗忌，第二次，由弗忌給了造出的偶人，第三次就是《宛轉環(huán)》里的子岡給了茞兒?！皞鞒小笔潜緯囊粋€隱含主題，無論是傳統(tǒng)的師徒、父子、父女關系，還是知音、聽者/觀者，乃至造物者與被造之物的關系。這個過程雖然帶來了種種問題，但在一定程度上釋放了自石器時代以來被禁錮的女性/弱者的能力。

那么，“講述”重新變得重要、女性乃至人類不再受物理枷鎖、文化建構的枷鎖限制的時代，會在什么時候到來呢？就是現(xiàn)在和不遠的將來。青銅降級了女性，機器則會升級女性。在這樣的圖景之下，就有了對傳統(tǒng)意義上的女性/弱者重新回歸舞臺中央的推想。這里的“弱者”，其實也有竹內(nèi)好說的“文學是屬于弱者的”的意思。

這值得女性創(chuàng)作者去思考，我們所處的時代非常關鍵，作為第一代獨生子女，受過好的教育，也做了非常多的工作，但是被看到的并不多，包括國內(nèi)也是最近才出版了一些女性科幻作者的選集，我開始寫作時也沒有很強的性別自覺意識。而文學就像自下而上的機器學習一樣，能解決很多居高臨下的宏大敘事解決不了的問題。這是我堅持創(chuàng)作的原因之一，也希望看到更多的女性創(chuàng)作者，大家一起努力。