撰文 | 翁雨晴

編輯 | 黃月

今年10月31日，柯林斯詞典宣布“人工智能”（AI）被評為年度詞匯。AI在詞典中的定義為“通過計算機程序?qū)θ祟惖男睦砉δ苓M(jìn)行模擬”。據(jù)柯林斯統(tǒng)計，在過去的一年里，這個詞的使用量增長了四倍。

以OpenAI推出的ChatGPT為首，這一年來各種生成式人工智能產(chǎn)品層出不窮，至今已經(jīng)形成一整套蓬勃的生態(tài)。畫圖有Leap Motion的Midjourney，譜曲有谷歌的MusicLM，辦公有微軟的Copilot。我們仿佛一夜之間踏入了科幻世界?！朵撹F俠》電影中那個造鎧甲、管理衛(wèi)星、保護(hù)核彈密碼無所不能，對斯塔克的衣食住行悉心照顧，還時不時說兩句俏皮話的賈維斯，似乎離我們不再遙遠(yuǎn)。

但人工智能帶來的不僅是便利。且不去想象將人類清洗殆盡的“天網(wǎng)”系統(tǒng)，當(dāng)今科技水平的人工智能已經(jīng)給社會帶來了不小的沖擊。AI以假亂真的藝術(shù)作品促使我們思考藝術(shù)的外延和內(nèi)涵，拷問什么是“假”、什么是“真”，什么是智能和創(chuàng)意。不同于第一、第二次工業(yè)革命對制造業(yè)的影響，這次首當(dāng)其沖受到影響的是文化產(chǎn)業(yè)。由于人工智能的出現(xiàn)模糊了“獨創(chuàng)性”、“藝術(shù)表現(xiàn)”、“合理使用”等概念，“知識產(chǎn)權(quán)”相關(guān)立法亟需修訂和補充。另外，AI工具的普及也造成了白領(lǐng)工作者的普遍擔(dān)憂，這一項顛覆性科技必將對已經(jīng)傾斜的勞資關(guān)系產(chǎn)生深遠(yuǎn)的影響。

有一個比喻說，人們看新興科技就像看火車從遠(yuǎn)處駛來。離得遠(yuǎn)的時候，速度似乎很慢，總也到不了眼前。等火車真的到了身邊，剎那間呼嘯而過，我們卻都來不及反應(yīng)。也許現(xiàn)在就是AI的火車來臨的一刻。無論是作為個人還是共同體，我們都不得不做好準(zhǔn)備。正如同濟大學(xué)人文學(xué)院副教授、哲學(xué)系副主任余明鋒在接受界面文化采訪時所言：“人工智能的廣泛應(yīng)用究竟意味著什么？它對經(jīng)濟、政治、日常生活，乃至人類的自我理解，對我們的哲學(xué)思考和基本的價值信念、社會法則等等會帶來哪些深刻的挑戰(zhàn)？這是未來會發(fā)生的事情，也是我們作為思想者如此關(guān)注它的更為重要的原因。所以，關(guān)于此的公共討論非常有必要?！?/span>

01 AI與創(chuàng)作：是復(fù)制還是創(chuàng)作？是學(xué)習(xí)還是搶奪？

關(guān)鍵詞：著作權(quán)、ChatGPT、Midjourney、科幻、音樂

11月27日，北京互聯(lián)網(wǎng)法院針對全國第一例AI生成圖片著作權(quán)侵權(quán)糾紛作出一審判決，判定原告因設(shè)計提示詞、修改參數(shù)等活動構(gòu)成“智力投入”、“個性化表達(dá)”，依法享有著作權(quán)。這一案例對未來AI在文化產(chǎn)業(yè)的應(yīng)用具有里程碑式的意義。根據(jù)界面新聞對業(yè)內(nèi)人士的采訪，“它的意義在于從法律上承認(rèn)AIGC作品（指人工智能生成內(nèi)容，Artificial Intelligence Generative Content）的獨創(chuàng)性，具備可要求侵權(quán)損害賠償?shù)臋?quán)利。這是立法者積極跟上科技發(fā)展節(jié)奏的一個重要表現(xiàn)?！?/span>

在判斷某物是否為“作品”時，法律主要考慮幾項要素：是否屬于文學(xué)、科學(xué)和藝術(shù)領(lǐng)域；是否有獨創(chuàng)性；是否具有一定的表現(xiàn)形式；是否屬于智力成果。在此案中，法院認(rèn)為涉案的AI生成圖片毋庸置疑屬于藝術(shù)表現(xiàn)，因為它和我們平常看到的、人類創(chuàng)作的圖像沒有區(qū)別，而原告在圖片生成過程中投入的思想則滿足了“智力”和“獨創(chuàng)性”的要素。由于AI目前不具備自由意志，不是法律上的主體，本質(zhì)上仍然是人利用工具進(jìn)行創(chuàng)作，所以人享有著作權(quán)法的保護(hù)。

《“我的畫被偷了？” AI生成圖片著作權(quán)侵權(quán)第一案判決書出爐》的報道指出，著作權(quán)制度的核心目的是鼓勵創(chuàng)作，所以當(dāng)新技術(shù)出現(xiàn)時，應(yīng)當(dāng)適當(dāng)使用著作權(quán)法鼓勵更多的人去用最新的工具創(chuàng)作。

隨著以ChatGPT為首的生成式AI進(jìn)入大眾生活， AI生成的作品正不斷迫使人們重新思考何為藝術(shù)。這一巨變類似于攝影技術(shù)首次出現(xiàn)使繪畫作為一種“再現(xiàn)”的藝術(shù)受到?jīng)_擊。界面文化曾就“AI終結(jié)藝術(shù)”的說法展開探討，并指出新興科技終結(jié)的并不是藝術(shù)本身，而是特定的藝術(shù)敘事。攝影技術(shù)普及之后，現(xiàn)代主義藝術(shù)找到個人情感表達(dá)和平面性作為錨點，擴展了藝術(shù)的外延，給后人留下一眾獨出心裁的杰作。當(dāng)今，AI本身就是一件極度挑釁的藝術(shù)品。創(chuàng)作門檻的降低、生成作品的可控性和隨機性的并存，AI背后進(jìn)行大數(shù)據(jù)訓(xùn)練的科技公司，都已突破現(xiàn)代或后現(xiàn)代藝術(shù)的邊界，指向一種新的藝術(shù)生命體。

AI在全球范圍內(nèi)對創(chuàng)作者的沖擊不限于視覺領(lǐng)域。今年2月，著名科幻雜志《克拉克世界》暫停征稿，原因是收到AI生成的作品過多，審稿工作無法進(jìn)行。不過，雜志編輯希拉·威廉姆斯（Sheila Williams）也表示，機器寫的文章一眼就能看出來，AI要替代作家還有很長的路要走。

在音樂方面，今年5月份，AI孫燕姿和人工智能翻唱引發(fā)關(guān)注。音樂人與聲音空間設(shè)計師李星宇在接受界面文化專訪時指出，AI在音樂行業(yè)的應(yīng)用早已非常廣泛。音樂的本質(zhì)與數(shù)學(xué)或金融類似，是純粹的心智活動，比起繪畫這類借助物理形態(tài)的創(chuàng)作，音樂極易和科技結(jié)合產(chǎn)生質(zhì)變。但當(dāng)技術(shù)被大企業(yè)壟斷，歸順于其營利目標(biāo)，普通創(chuàng)作者的生存空間受到了擠壓。大數(shù)據(jù)分析催生出了大量不求有功、但求無過的網(wǎng)紅口水歌，播放列表文化更把聽眾培養(yǎng)成被動接受推薦、不知自主探索的“孩子”，今后，不知口味被算法形塑的聽眾還能不能欣賞超出認(rèn)知的音樂，也不知道底部創(chuàng)作者還有沒有資源創(chuàng)作顛覆認(rèn)知的新作并將其推向市場。李星宇在采訪中悲觀地表示：“最有可能出現(xiàn)的情況是，平臺將資源分給自家的AI，同時頭部藝人仍然會索要自己那一份，最后就不剩什么給其他創(chuàng)作者了?！?/span>

以上案例涉及的都是AI的內(nèi)容輸出，現(xiàn)階段，AI的訓(xùn)練仍離不開人類創(chuàng)意的輸入。今年獨領(lǐng)風(fēng)騷的生成式AI依靠的是大語言模型，大語言模型的訓(xùn)練需要大量語料。理想語料也并非俯拾即是——數(shù)據(jù)初創(chuàng)公司Scale AI的拉塞爾·卡普蘭（Russell Kaplan）指出，理想訓(xùn)練對象是篇幅夠長、文筆良好、事實準(zhǔn)確的作品。很多時候，它們來源于文學(xué)作品。科技公司對語料的攫取讓作家們打響了一場維權(quán)大戰(zhàn)，也讓讀者或觀眾對于“合理使用”、“知識產(chǎn)權(quán)”、“創(chuàng)意”等概念進(jìn)行了更深度的思考。

今年6月，美國作家Paul Tremblay和Mona Awad起訴OpenAI，指控該公司未經(jīng)授權(quán)使用他們的作品來訓(xùn)練其人工智能模型ChatGPT，并索求賠償金。訴狀指出，OpenAI用于訓(xùn)練ChatGPT的大部分?jǐn)?shù)據(jù)來自受版權(quán)保護(hù)的作品，極有可能由Library Genesis等盜版網(wǎng)站提供。 

我們耳熟能詳?shù)囊恍┳骷乙惨鸭尤脒@場對決。7月，全美作家協(xié)會（The Authors Guild）包括瑪格麗特·阿特伍德、菲利普·普爾曼在內(nèi)的一萬多名作家簽署了一封公開信，要求Open AI、微軟、Meta Platforms等公司領(lǐng)導(dǎo)者不得在未經(jīng)許可或未支付報酬的情況下使用自己的作品訓(xùn)練AI。9月，該協(xié)會和喬治·R·R·馬丁等13位作家對OpenAI發(fā)起集體訴訟。作家們認(rèn)為，既然他們的作品被用于訓(xùn)練盈利的AI產(chǎn)品，他們理應(yīng)獲得補償。另外，他們也表達(dá)了對模仿作品泛濫的擔(dān)憂。重點不僅僅是AI侵權(quán)，而是這種侵權(quán)行為所服務(wù)的目的將嚴(yán)重?fù)p害作家的權(quán)益，其情形與前文提到的音樂行業(yè)類似。

綜上看來，許多創(chuàng)作者已經(jīng)在積極應(yīng)對AI的出現(xiàn)和發(fā)展，推動著作權(quán)法的完善。但更廣泛的擔(dān)憂并非某一作品被侵權(quán)，而是“模仿文化”對整個創(chuàng)意產(chǎn)業(yè)的影響?！禦ethinking creativity: creative industries, AI and everyday creativity》一文指出，AI的出現(xiàn)促使我們重新思考“創(chuàng)意”這一概念。從知識產(chǎn)權(quán)的視角出發(fā)，創(chuàng)意被視為一種資本、一種可以明碼標(biāo)價的固定表達(dá)，而創(chuàng)意的勞動維度往往被忽略。創(chuàng)意的產(chǎn)生首先要求創(chuàng)造者能滿足溫飽，并付出大量勞動來提高自我修養(yǎng)，這樣才能維持創(chuàng)造力，使靈感能在特定時刻涌現(xiàn)，而這些勞動往往是無償?shù)摹?/span>

02 AI與人類工作：替代、掠奪或推動變革

關(guān)鍵詞：好萊塢罷工、OpenAI外包工人、《后工作時代》、教育行業(yè)、模特行業(yè)

今年持續(xù)了五個月的好萊塢罷工，正是創(chuàng)意產(chǎn)業(yè)從業(yè)者從勞資關(guān)系的維度對AI進(jìn)行的反擊。界面文化曾報道過，除了流媒體平臺利潤的分成問題， AI也是此次罷工的一個重要議題。編劇工會要求AI只能作為編劇的輔助工具，演員工會也反對由AI生成的角色代替各類演員出演。和此前作家的抗議類似，演員們質(zhì)疑“制片方是否有權(quán)讓AI學(xué)習(xí)演員的作品”。

在長達(dá)五個月的僵持之后，制片方終于在11月作出重大讓步。據(jù)《衛(wèi)報》報道，此次編劇們?nèi)〉玫闹饕獎倮ǎ褐破瑥S不得讓AI生成原材料然后要求編劇修改，也不得讓AI修改編劇的作品。麻省理工學(xué)院經(jīng)濟學(xué)家Simon Johnson在接受《衛(wèi)報》采訪時稱，編劇們?nèi)〉玫膮f(xié)議是非?！奥斆鳌钡?，因為在此安排下編劇仍然可以使用AI作為調(diào)研工具。Johnson說：“AI是由編劇而不是制片廠控制的。它不會成為自動化科技，而是對人類工作進(jìn)行補充?！?/span> 

然而，好萊塢編劇和演員的成功很大程度上要歸因于好萊塢的全球影響力、以及他們的人氣基礎(chǔ)。并不是所有人在面對大平臺和AI時都有能力奮起反抗。界面文化曾關(guān)注AI標(biāo)記員的困境——OpenAI以時薪1.32美元雇傭肯尼亞外包工對其內(nèi)容進(jìn)行審核。《Times》發(fā)布的調(diào)查報道揭露了這些低薪工人的狀況，他們長期負(fù)責(zé)標(biāo)記帶有暴力、色情、言論仇恨的數(shù)據(jù)，沉浸在有沖擊性的污穢內(nèi)容中，很多人都出現(xiàn)了PTSD、抑郁、焦慮等心理問題，失眠與噩夢頻頻發(fā)生。

今年上海譯文出版社引進(jìn)的《后工作時代：平臺資本主義時代的勞動力》一書深刻剖析了平臺資本主義時代的“微工作”制度。它看似創(chuàng)造了自由、彈性、體面、不受地域限制的新工作，為全球南方帶來福音，其實是全球工作危機的進(jìn)一步扭曲。比如，亞馬遜的微工作網(wǎng)站Mechanical Turk提供大量數(shù)據(jù)標(biāo)記工作，但只有發(fā)達(dá)國家的少數(shù)人可以通過銀行轉(zhuǎn)賬來獲得報酬，來自全球南方國家的工人只能領(lǐng)取禮品卡，用于購買亞馬遜提供的商品和服務(wù)。同時，由于計件任務(wù)的性質(zhì)，工人需要花大量時間尋找下一份工作，尋找工作的時間甚至比完成工作的時間還長。這樣的工作不僅沒有權(quán)利保障，還有嚴(yán)重的倫理問題，工人不知道他們自己輸入的數(shù)據(jù)最終被用于什么目的。美國軍方曾和谷歌共同開發(fā)過一個人工智能程序，數(shù)據(jù)標(biāo)記員只知道自己在對無人機視頻進(jìn)行分類，卻不知程序?qū)崉t是為了幫軍隊識別戰(zhàn)場上的目標(biāo)。

隨著人工智能技術(shù)的發(fā)展，即使是這樣不穩(wěn)定的工作也正變得難以維持。《訓(xùn)練人工智能的中國縣城工人》一文提到，人工智能研究者們已經(jīng)開始嘗試向機器“喂養(yǎng)”未標(biāo)注的數(shù)據(jù)與部分標(biāo)注數(shù)據(jù)，亦即“半監(jiān)督學(xué)習(xí)”，而不依賴于人工標(biāo)注的自監(jiān)督學(xué)習(xí)與數(shù)據(jù)標(biāo)注。騰訊、阿里、字節(jié)跳動等一眾大廠都在研發(fā)自監(jiān)督學(xué)習(xí)的算法，甚至有些數(shù)據(jù)標(biāo)注公司也已有60%內(nèi)容來自于機器的自動化標(biāo)注。數(shù)據(jù)標(biāo)注員曾被稱為“人工智能的老師”，每人每天上千次的拉框教會了人工智能理解世界，沒想到“老師”轉(zhuǎn)眼間要將被“學(xué)生”取代。 

人工智能正在取代越來越多的工作。《南方周末》的報道展示了AI對于教育行業(yè)和模特行業(yè)的挑戰(zhàn)：AI教育系統(tǒng)Call Annie一經(jīng)推出，美國的教育平臺Chegg股價暴跌50%，不用約課、目前免費、24小時陪聊的AI教師也許會在未來淘汰所有語言老師、基礎(chǔ)教育類老師、翻譯、甚至大學(xué)助教；AI模特對真人模特的巨大挑戰(zhàn)也正在凸顯，不僅身高、發(fā)色可以隨意調(diào)節(jié)，在其后的商業(yè)運作中還可以改寫AI模特的故事，目前AI模特Aitana Lopez已完全能以假亂真，每月承接1萬歐元的廣告。

只要善于適應(yīng)，人類的未來或許并非一片灰暗?？苹米骷夷矫髟?a target="_blank">接受界面文化采訪時稱，當(dāng)機器可以代替很多工作， 我們就要審視還要不要重視這類功夫。當(dāng)機器很快學(xué)習(xí)到語言風(fēng)格，文學(xué)作者就會想如何寫出邏輯更強、有更多隱含內(nèi)容的文本。就像愛德華·阿什福德·李（注：《柏拉圖與技術(shù)呆子》《協(xié)同進(jìn)化：人類與機器融合的未來》作者，計算機科學(xué)家）提出的那樣，技術(shù)和人是協(xié)同進(jìn)化的，人類會隨著人工智能的進(jìn)化改變自己。慕明有一個天馬行空的想法，未來可以把ChatGPT作為創(chuàng)新的參考線、或計量單位，如果新推出一個小說家，可以去衡量他的創(chuàng)意是ChatGPT的0.8倍還是1.5倍。既然機器可以通過人類來學(xué)習(xí)，為什么人不能通過機器的反饋來學(xué)習(xí)呢？

03 AI的風(fēng)險與監(jiān)管：如何走向“人機一體”的未來？

關(guān)鍵詞：AI競賽、AI幻覺、AI戰(zhàn)爭、AI立法、《人類世的<資本論>》

AI帶來的社會風(fēng)險不容小覷。即使是馬斯克這樣的科技狂人，也在今年3月領(lǐng)銜簽署公開信，呼吁所有AI實驗室立即暫停訓(xùn)練比GPT-4更強大的AI系統(tǒng)至少6個月。不過也有人認(rèn)為他只是在為自己公司開發(fā)AI產(chǎn)品拖延時間。

無論如何，馬斯克的呼吁并未得到響應(yīng)，AI競賽仍在如火如荼地進(jìn)行中。界面文化之前的評論文章曾提到許多值得我們警惕的點。比如，美國警察局會使用預(yù)測分析軟件，根據(jù)其指導(dǎo)更頻繁地對低收入社區(qū)巡邏和搜索，對AI的過度依賴加劇了已有的貧窮和不公。另外，ChatGPT常常“一本正經(jīng)地胡說八道”，給出看似非常有權(quán)威性的錯誤答案。人們必須警惕這種“幻覺”，保留自主驗證信息的習(xí)慣。

英國哲學(xué)家伊麗莎白·米勒也在接受界面文化采訪時提到了人工智能與戰(zhàn)爭機器的關(guān)系。她指出，在新近的巴以沖突之中，以色列正在使用被稱為大規(guī)模暗殺工廠的“福音”（Habsora）人工智能系統(tǒng)，它在過去幾周里殺死了成千上萬的人。

目前，各國都在緊鑼密鼓地推動AI立法。7月，我國出臺了《生成式人工智能服務(wù)管理暫行辦法》。10月，拜登簽署了關(guān)于AI的行政令。12月，歐盟委員會三方就《人工智能法案》達(dá)成協(xié)議，使該法案成為全球首部人工智能領(lǐng)域的全面監(jiān)管法規(guī)，涵蓋版權(quán)、數(shù)據(jù)隱私、公共安全等多方面。

在未來的立法方向上，AI的民主管理和監(jiān)督至關(guān)重要。正如《人類世的<資本論>》作者齋藤幸平在接受界面文化采訪時表示的，我們現(xiàn)在所擁有的所有技術(shù)幾乎都被GAFA（Google、Apple、Facebook、Amazon）這樣的私人企業(yè)出資壟斷了，而普通人并不具備發(fā)展此類規(guī)模技術(shù)的能力，即使某家公司在黑箱內(nèi)部進(jìn)行誘導(dǎo)我們也無從得知。所以要制定規(guī)則保證它不受公司邏輯的影響，以民主的方式?jīng)Q定如何管理它，并進(jìn)行更多監(jiān)督。

當(dāng)工具變得過于強大， 每個人都需要思考如何在新的時代與工具進(jìn)行合理的交互。在澎湃思想市場的《“他者”涌現(xiàn)：生成式人工智能大模型漫談》一文中，中科院自動化研究所博士研究生張宇欣和中科院自動化研究所研究員董未名指出，當(dāng)程序員們不再使用01編碼和計算機溝通，而使用Python這種更貼近自然語言的編程語言，當(dāng)人們每天都在學(xué)習(xí)如何使用提示詞更好地與AI溝通，人類和機器似乎正在以一種人機共同創(chuàng)造的語言為紐帶進(jìn)行融合。在這個“人機一體”的時代，我們不僅僅要提升技術(shù)水平，更要反思自身，深入地了解人類的局限和人工智能的潛力。人工智能終將與我們每個人有關(guān)，無論是在創(chuàng)意、工作的層面上，還是在人類認(rèn)清自我與理解語言的層面上。

參考資料：

Lee, Hye-Kyung. “Rethinking Creativity: Creative Industries, AI and Everyday Creativity.” Media, Culture & Society, vol. 44, no. 3, 2022, pp. 601–12,

https://authorsguild.org/news/thousands-sign-authors-guild-letter-calling-on-ai-industry-leaders-to-protect-writers/

https://authorsguild.org/news/ag-and-authors-file-class-action-suit-against-openai/