界面新聞記者 | 尹清露
界面新聞編輯 | 黃月
一貫重視用戶體驗的蘋果公司,最近卻在這上面栽了跟頭。5月7日,蘋果發(fā)布了新款iPad Pro的廣告短片《Crush》,畫面中,一臺巨大的液壓機把書籍、樂器、顏料等物品以摧枯拉朽之勢壓碎,凝結(jié)出了迄今為止最輕薄的iPad。廣告很快引發(fā)群嘲,網(wǎng)友紛紛質(zhì)疑,為何技術的革新一定要以毀壞人們珍愛之物為代價?也有人上傳了倒放版的短片——被損毀的吉他和鋼琴恢復了原來的模樣,這才更符合人們心目中的世界。
5月9日,蘋果公司發(fā)布道歉聲明稱,“我們的目標一直是慶祝用戶通過iPad將想法變成現(xiàn)實,這段視頻沒有切中要害?!敝徊贿^,在被技術牢牢掌控的今天,聲明也顯得于事無補。用電子設備代替真實創(chuàng)作工具已經(jīng)是創(chuàng)作者的現(xiàn)實,直到蘋果也將之視為理所當然,我們才驚慌地發(fā)現(xiàn),“相信技術變革”與“恐懼技術毀滅人類”之間的張力已經(jīng)如此之大,來到了難以調(diào)和的境地。
于是,界面文化(ID:booksandfun)邀請清華大學人文學院教授汪民安,從這則廣告入手,探討了現(xiàn)代化以來的技術變革,要以怎樣的理論視角解釋今日的技術。汪民安認為,技術既有毒性也有藥性,人們的生死都置放在技術框架下,很難過一種完全逃避技術的生活,能做的只是盡量降低技術的毒性。
我們當下所面對的一個現(xiàn)實是,技術的變化永遠比想象中更快。就在汪民安回復書面采訪的前一天,也就是5月14日,OpenAI發(fā)布了GPT-4o,它可以實時識別用戶的情緒并進行語音對話,如同直接從科幻電影《Her》走出來的薩曼莎。這讓人想起??聦Α叭酥馈钡碾[喻:“人將被抹去,如同海邊沙灘上一張臉的形象?!敝徊贿^就如汪民安所說,今天的人工智能是在非?,F(xiàn)實的意義上去預言人之死的。接下來人類的命運幾何?答案仍在風中飄著。
01 社會變得透明,是人們對技術最直接的恐懼
界面文化:你覺得觀眾對蘋果廣告的反應為什么如此劇烈?
汪民安:那個廣告最直觀的感覺就是暴力。技術肯定對人會產(chǎn)生暴力,但是,技術的暴力通常是無形的,是不可見的,甚至常常是被忽略掉的,因為技術在某些層面上還有明確的積極的意義,或者說我們看到和經(jīng)驗到的通常都是技術的積極一面。但是,這個廣告表達的技術暴力如此地直接和粗魯,它還有明顯的反智傾向,看起來是對人類既有文明的踐踏。人們當然會感到強烈的不適。
不過,我也要為這個廣告辯護幾句。廣告提供的通常是幻覺和謊言——人們有時候需要幻覺,只有借助幻覺才能生活下去。這同樣也是早期藝術的功能。尼采就說過,希臘悲劇的意義就在于它提供的是一個謊言世界,這個謊言可以讓人們擺脫掉對真實生活的恐懼,因此,藝術(謊言)對人來說至關重要。一般來說,廣告也是謊言,也是讓人們能夠心安理得地順從地生活。這是人們對廣告不滿和抱怨的一個重要原因。但蘋果的這個廣告短片卻不同凡響地去表達真實——人們不僅因為其中的暴力感到不適,人們也因為面對著真實而感到不適?;蛟S人們已經(jīng)習慣廣告的謊言了。
界面文化:在短片中,液壓機的形象讓人聯(lián)想起工業(yè)文明時期人被機器控制的不適和恐懼。然而,廣告呈現(xiàn)的不再是工業(yè)革命,而是科技革命——所有的實體物都被數(shù)字化了。這樣看來,我們?nèi)缃竦目謶质菍^往的延續(xù)嗎,還是其中產(chǎn)生了某些變化?
汪民安:工業(yè)革命以來的技術經(jīng)歷了幾個階段。每一個階段都產(chǎn)生了不同的控制效果。19世紀開始出現(xiàn)的機械化工業(yè)革命開始將人束縛于機器的節(jié)奏中。無論是個體還是社會,都是根據(jù)機器的運轉(zhuǎn)速度而被動地運轉(zhuǎn)。人的這種受縛狀態(tài),馬克思主義傳統(tǒng)做過最深入的分析,這就是所謂的“異化”或者“物化”。這樣的控制基礎是身體控制,或者說,是通過身體控制對整全的個體進行控制。
但是,到了20世紀中期,技術出現(xiàn)了一次變化。除了生產(chǎn)性的工業(yè)技術外,媒介技術有過一次大規(guī)模擴張。媒介技術的控制更多是記憶,視覺和精神方面的。麥克盧漢把媒介看做是人的延伸。人的延伸當然也可以理解成人的知覺和記憶能力的增強,但是,這種增強是靠技術來完成的,正是過度依賴于這些外在技術,我們也可以反過來把它理解成人的這些內(nèi)在的自然能力的減弱。無論如何,媒介技術是通過控制身體的記憶和知覺來控制整全的個體的。它當然不是對工業(yè)技術的取代,而是和工業(yè)技術疊加在一起來進行更全面更總體性的內(nèi)外控制。正是在這個意義上,60年代的社會被稱之為后工業(yè)社會,或者也被說成景觀社會、消費社會。景觀和消費當然脫離不了媒介霸權。
今天的情況完全不同。今天是數(shù)字化技術的時代,所有的實體物都被數(shù)據(jù)化了,它在徹底重組人類的生活。數(shù)字化技術的影響是全方位的,每個人都有所體會。就像所有技術一樣,它帶來了太多的便利;但也像所有技術一樣,它帶來了太多的恐懼。你問的是人們對此的恐懼,我覺得最直接的恐懼,就是今天變成了一個透明社會。一切都是敞開的,一切都是透明的,甚至你的意愿和觀念也都可以被大數(shù)據(jù)計算清楚,它們都不是什么隱私了。如果由我來給人類下定義的話,我會說,人應該是有隱私的動物。如果沒有隱私,是不是也是一種人的消失?另一個恐懼,或者說是擔憂吧,那就是人本身可能會徹底地發(fā)生改變?;蛘?,我們更悲觀一點地說,古典的人文主義意義上的人可能會消失。這也正是“后人類”這個概念流行的原因。
02 人工智能在現(xiàn)實的意義上預言了“人之死”
界面文化:你曾提到,??略?960年代預言了“人之死”,他指的是作為主宰地位的現(xiàn)代人之死,是隱喻上的死亡;而人工智能或許會引發(fā)另外一次“人之死”,人會變得愚蠢、不再主動思考。可否詳細談談,兩次死亡的區(qū)別和關聯(lián)是什么?
汪民安:??绿峒暗摹叭酥馈?,指的是人文科學所確定的關于人的概念的死亡。??碌囊馑际?8世紀開始出現(xiàn)了所謂的成熟的人文科學(human science),就是關于人的一套學說。這個學說對人有種種定義和主張,其核心是強調(diào)人的主體性和理性。但是,從尼采開始,一直到??卤救藢懴隆对~與物》這本書的20世紀60年代,有大量的對人文科學有關人的定義的質(zhì)疑和批判。所謂的人之死就是對這樣一個人的觀念的質(zhì)疑:死掉的是作為主體的人和理性的人這樣一種觀念,而不是真正的現(xiàn)實的人。這類批判為今天各種各樣的后人類主張奠定了理論基礎。
但是,今天的人工智能是在非常現(xiàn)實的意義上去預言人之死的。人工智能的基礎是控制論。早期的諸如維納這樣的控制論理論家,將生命理解為一套信息。這是一個顛覆性的觀點:在這之前,人們把生命要么理解為物質(zhì)構(gòu)成,要么理解為力、能量、沖動或欲望,等等。而維納等人努力將人理解為一套信息程序,一套算法模式,生命就是由算法、數(shù)據(jù)和代碼函數(shù)等構(gòu)成的。一切都是算法。如果是這樣的話,具體的物質(zhì)形象或者肉身,對生命而言不再是根本性的了,它們不過是附著在算法程序上面的臨時載體。算法程序可以擺脫它們獨自存在。正是基于這一理念,早期控制論理論家試圖將大腦中的信息從大腦中提取出來,將它保存在另一個地方從而讓生命變得不朽。
這樣一個同肉身剝離的數(shù)據(jù)生命,它本身不帶有觀念、意識形態(tài)和人格,它和智能機器(計算機)類似,甚至可以與之結(jié)合起來。也正是因為它是一個數(shù)據(jù),一個信息化的生命,它才可以和機器相類比?;蛘哒f,機器可以和它相類比,可以和它相結(jié)合。人和智能機器的界線就被打破了,二者沒有什么本質(zhì)的不同,二者之間的信息可以自由流動。如果人的肉身不重要的話,那么,傳統(tǒng)意義上的人就不存在了。還存在生命,但不是我們一般意義上的人的生命。ChatGPT、AlphaGo都是這樣的無身體的數(shù)據(jù)生命,這樣的生命在很多科幻電影中也出現(xiàn)過。當然還有各種各樣的有形的智能機器,它們由硅元素組成,能活動,能感知,比如無人駕駛汽車,它們同樣也是計算生命?,F(xiàn)在人們都擔心,這兩種類型的人工智能或者人工生命是否會取代或者否定肉身生命?也就是說,是否會出現(xiàn)一種現(xiàn)實意義上的人之死?
界面文化:有觀點認為,注重用戶體驗的蘋果竟然沒意識到這則廣告的負面觀感,說明技術進步的信念如此深入人心,以至于沒人覺得不妥。但另一方面,人們又在擔憂被技術奴役。
最近你的文集《親密關系的核心是友誼》出版,收錄其中的演講稿《技術末世論》提到了這一矛盾,認為現(xiàn)代人會不停地實現(xiàn)潛能,直到那個臨界點到來——技術能輕易地毀滅人類。你覺得我們來到臨界點了嗎?對技術的擔憂和驚懼,是否說明我們終于從現(xiàn)代人的幻夢中醒過來了?你對技術整體抱著悲觀的態(tài)度嗎?
汪民安:進步論是現(xiàn)代性的一個核心法則。但是對技術進步的擔憂在啟蒙時期就出現(xiàn)了。盧梭在工業(yè)技術開始出現(xiàn)苗頭的時候就意識到它可能帶來的危險。但是,二十世紀成熟的規(guī)?;墓I(yè)技術已經(jīng)顯露出它的消極后果,這促使海德格爾和本雅明對技術進步做了更為深入的批判。不過,他們批判的著力點不完全一樣。對海德格爾來說,技術對大地的開墾和索取會讓人們最終無家可歸。本雅明認為技術的進步不過是剝削的進步,是文化和道德的退步。
海德格爾的批判引發(fā)了大規(guī)模的反響,生態(tài)和氣候問題現(xiàn)在成為最重要和最迫切的議題之一,哈拉維、拉圖爾還有一大批人類學家實際上都在海德格爾的批判框架下工作。本雅明的技術批判關注的人不是很多,但是,我們只要看看當今的全球現(xiàn)實,就發(fā)現(xiàn)他非常有預見性。技術確實在進步,但是,全球范圍內(nèi)的貧富差距越來越大,科技巨頭是為了財富而拼命發(fā)展技術的。對他們來說,技術的進步首先是一個積累財富的問題,或者說是一個市場競爭的問題,改進人類生活是附帶目標。技術進步不過是富人的財富進步,技術的壟斷者也是財富的壟斷者。
從這個意義上來說,技術進步是不道德的,它確實是文化的退步。我們暫且不要夸大其詞地說,技術進步會導致人的奴役甚至毀滅,會導致一個所謂的新的末世論,我們只要看看今天全球范圍內(nèi)的民粹主義擴張就知道它的負面作用了:無數(shù)諸眾正在遭到技術進步的拋棄。每個人都感知到技術在進步,但并不是每個人都感覺到生活在改善。我的法國朋友告訴我,他們的生活水平不如上個世紀80年代,而這并非個別現(xiàn)象。
至于我們是否到臨界點?事實上,不用考慮未來的人工智能,甚至不需要專業(yè)人士來告訴我們,我們只要自己體會一下我們反常的天氣狀況——我們不是每個人都覺得最近幾年的氣候越來越奇怪了嗎?如果沒有危機意識,如果不采取干預行動,真的會出現(xiàn)危險。但是我碰到過很多人包括一些受過很好教育的知識分子,認為氣候變暖是一個假問題,是陰謀論。
界面文化:如今,科技的敘事似乎仍然受制于“控制或被控制”這一對立。你的《ChatGPT的互文性、生成和異化》一文談到,人的語言被ChatGPT所統(tǒng)治,就像是曾經(jīng)在車間的身體被機器的齒輪所統(tǒng)治一樣。也常有人用福柯的規(guī)訓理論來說明算法對勞動者的奴役。
可是,這些舊日的理論還能解釋今天的技術嗎?除此之外,還有其他更廣闊的視角嗎?與之相關的另一個問題是,在這個流媒體時代,人們越來越難以看完整的書、聽完整的唱片,一切都是被壓縮的和碎片化的。你怎樣看這一現(xiàn)狀?如果還執(zhí)著于本雅明的“靈韻”之消逝,是否會錯過當今時代本身的某些特征?
汪民安: 我不怎么對理論進行新舊區(qū)分。很多新的理論都是建立對往日的理論的回跳或重讀的基礎上的。所有的理論都是開放的,不同的理論可以有跨時空的疊拼和并置從而形成一個新的理論。不要說??禄蛘叩吕掌澋睦碚?,更早的海德格爾的理論,黑格爾的理論甚至亞里士多德的理論,我覺得仍舊有強烈的現(xiàn)實意義。理論和現(xiàn)實的關系是靈活性的,一種現(xiàn)實并不意味著只能有一套理論來解釋。所有的解釋都是局部視角的,因為每一種現(xiàn)實總是呈現(xiàn)為多個層面和多個維度。
就算法奴役而言,你從不同的角度看,它展開的就是不同層面的問題。我們當然可以用規(guī)訓理論:這是對身體每時每刻的管理;用德勒茲的控制社會的理論解釋也沒有問題:你一天必須有多少績效,你最多可以達到多少績效;你還可以用維納的控制論:這是將人的生命看成是一套計算程序,和機器一樣的計算程序;你也可以用馬克思主義傳統(tǒng)的“物化”理論和剝削理論來解釋:這當然是一種新的剝削方式,當然是將人改造為一個開足馬力的物質(zhì)化的運輸機器,當然也是資本家盤剝剩余價值的新手段;你還可以用加速主義理論,用德賽都的都市戰(zhàn)略理論,甚至用結(jié)構(gòu)主義理論來解釋——你也可以將這些理論進行恰當?shù)恼{(diào)和運用而發(fā)展出一套自己的理論來。
對碎片化閱讀也有廣泛的多樣化解釋。碎片化是19世紀大都市出現(xiàn)時就出現(xiàn)的現(xiàn)象。它當然不止是靈韻的消失,還是專注力的消失,是現(xiàn)代生活大漩渦的必然結(jié)果,是時空壓縮的全新經(jīng)驗,當然也是對今天信息無休無止的生產(chǎn)和上傳的一個必然回應,每個人都是無限信息洪流沖刷過的碎片。不過,我要說,雖然我是研究理論的,但我很少嘗試用某一種先在的理論去解釋某一種現(xiàn)實這樣的工作方法。我更喜歡直面現(xiàn)實本身去描繪它,我越來越喜歡現(xiàn)象學的方法了。
03 無法完全逃避技術,可以盡量降低其毒性
界面文化:你曾在《論愛欲》中談到巴迪歐對愛的觀點:愛不是強行把所有都納入“一”,不是控制和支配對方,而是承認異質(zhì)性和混雜物的存在,并用對方的視角體驗世界。所以,對愛欲的思考是否也能啟發(fā)人與機器/人工智能的關系?
汪民安:這個我沒什么經(jīng)驗,我只是嘗試和ChatGPT對話過,它沒有說出什么特別有意思的東西來。它提供的只是知識方面的,它總是在回應,總是被動的,它不會問你。
我希望有這樣一種智能機器,它不停地問你,對你產(chǎn)生好奇,就像一個陌生人對另一個陌生人那樣充滿好奇。兩個人可以不停的彼此追問彼此打聽。只有互問,才能體現(xiàn)雙方的二重性的差異視角,才能產(chǎn)生真正的交流、探索和愛欲。ChatGPT顯然還沒有達到這點。
它給我印象最深的是,你只要問它,它總有話可說,它甚至很啰嗦地說,它從不沉默。我還希望人工智能能夠沉默,它不愿意回答你,或者它也不想再問你了。我和它的默契是通過沉默來達成的,就像兩個朋友不想說話但默默地抽煙一樣。
界面文化:如果人注定要被技術席卷,個體能做些什么來維持一個良好的生活?
汪民安:我們一直在講技術帶來的危險,這是因為技術的成就和益處是顯而易見的。技術總是有兩面性。這就是人們說的技術的藥性,它既是毒藥也是良藥。不幸的是,人類將自己的潛能同時應用在這兩面性上來。你看看,人們一方面竭盡全力地在制造和發(fā)明救人的藥物,另一方面,人們也在竭盡全力地制造殺人的戰(zhàn)爭武器。技術既要讓你死,也要讓你活。當你看到戰(zhàn)場上的士兵同時攜帶著藥物和武器,你就會覺得非?;闹嚕喝藗兤疵匕l(fā)明一種技術就是為了來抵消和對抗他們發(fā)明的另一種技術。
我要說的是,人們的生死都置放在技術的框架下,技術構(gòu)成了我們存在的必然裝置,斯蒂格勒等人認為技術構(gòu)成了我們身體不可分離的外在器官。我們很難去過一種完全逃避技術的生活。我們大概能做的,就是去盡量降低技術的毒性。對個體而言,這似乎很難,但如果每個人都有這種意愿,都發(fā)出自己的聲音,對技術毒性無限蔓延的遏制并不是不可能的。