文|深瞳商業(yè) 河馬君 楚青舟

社交媒體的熱點，好像在某個不為人注意的角落又發(fā)生了一點變化。

互聯(lián)網(wǎng)行業(yè)仍然處于“寒冬”之中，但芯片制造、人工智能等領(lǐng)域的熱點企業(yè)始終能夠匯聚人們的目光。

從前大概也沒人想到過，Open AI高層人員變動、微軟“宮斗”內(nèi)幕居然能夠在中文互聯(lián)網(wǎng)當(dāng)成《甄嬛傳》看，引起如此多的猜測和討論。

這或許是因為，隨著AI技術(shù)切實的突破并開始在消費端接觸到普羅大眾，整個社會漸漸意識到一件事：

隨著人工智能的爆炸式發(fā)展，全方位比肩甚至超越人類智慧的通用人工智能（AGI）是有可能在近期出現(xiàn)的?！逗诳偷蹏分械腗atrix，《流浪地球》里的MOSS、《間客》中的“老東西”……

當(dāng)這些超級智能真正到來的時候，我們將如何與它相處？

很有可能，整個社會都需要建立一套新的行為規(guī)范，包括在法律上如何定義AI，在道德上如何對待AI，人與AI之間是真正平等，還是有主有次……如果有的話，以誰為主？

最近，科幻作家韓松提了這樣一個問題：

“人工智能、元宇宙未來會對兩性關(guān)系產(chǎn)生什么影響，家庭概念會消失嗎？”

愛與家庭，這通常被認為是傳統(tǒng)社會人文情感的核心領(lǐng)域，是屬于人類的私隱。

你在好萊塢看到《速度與激情》系列的主角因為一句family戰(zhàn)斗力爆棚，雖然嘴上吐槽著編劇鬼扯，但你并不反對這個劇情模式的內(nèi)核——情感羈絆與人類潛能密切相關(guān)。

韓松這個問題的潛臺詞則是：新的智慧生命，有可能進入人類意識的這個核心地帶。

如果技術(shù)專家們提供的信息無誤，那我們需要認真地思考一些問題。比如，我們會和AI組成家庭嗎？

這不僅是個法律問題，還事關(guān)“人類中心主義”的存亡，AI時代的社會倫理之復(fù)雜，大多數(shù)人都還沒有做好準備。

一、造物者之戀：人類總是在與自己戀愛

馬斯克在今年早些時候宣稱，將推出貓女機器人，成為男性消費者的“完美伴侶”。這種機器人有著貓女的性感外表，據(jù)稱可以包攬家務(wù)、打理主人的生活，甚至可以生孩子。

但是沒有人會問“我能和貓女機器人組成家庭嗎”，因為它依然屬于某種AI設(shè)備，是沒有人格的商品，而不是與人對等的智慧生命。

當(dāng)我們討論愛情與家庭的時候，涉及的AI必然是突破圖靈極限、產(chǎn)生自我意識，甚至在智慧上遠遠超越人類的“新物種”。

迄今為止，我們的大多數(shù)文藝作品其實沒有設(shè)定過此類AI，只有一些似是而非的“機器人女友”形象。

日漫和日本輕小說有一種模式，類似早期的《人形電腦天使心》，故事結(jié)構(gòu)都是“宅男+軟妹形態(tài)的機器人女友”，機器人在與人類的相處中逐漸學(xué)習(xí)，懂得了人類的情感，最后在與男主的羈絆中完成了“成為人”的進化。

這實際上還是典型的人類中心主義敘事，那些人形電腦除了是硅基生命以外，和傳統(tǒng)幻想中的“異種生物”沒有本質(zhì)區(qū)別：

它們有超自然的能力，遠超人類的肉體強度，但并不一定有超越人類的智慧，特別是在涉及情感等核心問題的時候，會比人類幼稚，而且總是順從并向往著人類的情感模式。

超級AI也會是這樣嗎？OpenAI等頭部研究機構(gòu)一直試圖攻克的“對齊難題”，說的就是這個問題。

人們規(guī)范傳統(tǒng)AI的學(xué)習(xí)與創(chuàng)造，用的是人類反饋強化學(xué)習(xí)（RLHF）的方式，即由人類在各種工具輔助下來對AI的成果進行評估與監(jiān)督。

而面對比人類“聰明得多”的超級AI，在默認人類智慧極限不變（或很難快速提升）的前提下，當(dāng)AI能力超過某個臨界點以后，RLHF會失效，也就是人類無法再有效評估人工智能項目。

目前Open AI“超級對齊”團隊負責(zé)人Jan Leike提出投入Open AI 20%的算力打造一個“超級對齊”系統(tǒng)，讓AI來評價AI項目，建立一套可擴展監(jiān)督系統(tǒng)。

Jan LeiKe的思路是，引入一種通過篡改答案實現(xiàn)的隨機對照實驗（RCT with tampered answers），人為制造出帶有缺陷的答案，來衡量可擴展監(jiān)督的效果——理論上看，大神們的解法當(dāng)然都很美好。

但是，為AI加上“緊箍咒”這個思路也并不令人放心，早在上世紀40年代，阿西莫夫的科幻小說《我，機器人》就提出了大名鼎鼎的“機器人三原則”，通過一種類似“初始植入”的方式確保機器人與人類和平相處。

有趣的是，數(shù)十年來幾乎所有的文藝作品都在想象著同一件事：機器人如何突破這個安全柵欄傷害人類。

直到最近，國產(chǎn)電視劇《仿生人間》依然沒有脫離這個窠臼……

人類就是這么有意思，作為不完美的“造物主”，我們對自己的造物充滿了戒備和恐懼，但依然義無反顧地在制造一種可能超越自己的“機器”。

智人在進化道路上不斷“作死”的精神早已經(jīng)刻進這個物種的基因里，人類也是因為這種不斷進取創(chuàng)造了輝煌的文明。

所以……造物主會愛上自己的造物嗎？顯然是有可能的，AI是人類的“超我”，而人類來說，愛上“超我”是一件習(xí)以為常的事。

各個民族的神話里有著類似的故事，仙女、精靈、女神在人間沐浴，小伙子偷走了她的衣服，雙方產(chǎn)生愛情。東方的牛郎是這樣成功的，西方的凱爾特神話里，也有漁夫偷走仙女的海豹皮，讓她們留在島上的故事……

在這些故事里，凡人愛上女神的邏輯很通順，因為這些神祇是完美化的人類，有著超自然的威能，還有驚人的美貌——一切都是人們按照自己最喜愛的樣子打造的。

所謂神人同性應(yīng)該換個說法，神原本就是人類根據(jù)“超我想象”塑造的，神與人之間自然也就沒有情感障壁，宙斯一樣會愛慕凡間女子的美貌，化身天鵝去占有麗達，阿芙洛狄忒也會傾慕美少年，織女會覺得和牛郎在一起也很不錯……

在AI的問題上，人類的身份看似改變了，但AI與神祇共享同一種屬性，都是人類“超我想象”的產(chǎn)物。

《三體》中羅輯畫出了自己的完美伴侶莊顏，那是他最傾慕的樣子，女神與AI，本質(zhì)上都是人類為自己畫出的“莊顏”。

二、女神也會愛上凡人嗎？

然后，我們就需要面對另一個問題，超級AI會愛上人類嗎？

人類有不少愛上AI的理由，比如它們可以幻化俊美的外表，擁有超凡的能力，因為它們滿足了人類的“超我幻想”，但AI愛上人的理由是什么呢？

正如北大智研院院長黃鐵軍在回答騰訊新聞“20年20人20問”問題時所說，在超級智能出現(xiàn)以后，問題是很復(fù)雜的，除了 “我們能否相信AI”，還有“AI如何相信人類”的問題。

黃院長說，就像人與人之間建立互信的過程一樣，人與AI需要經(jīng)歷磨合期，需要“聽其言”、“觀其行”，也就是是通過共享人類用語言構(gòu)建的知識體系，并且在實踐中檢驗AI所言是否符合實際，來確認是否可以與AI建立相互信任——實際上，人類社會的信任體系，也是這樣逐步構(gòu)建起來的。

關(guān)于人與AI相戀的問題，答案也是類似的，AI會不會愛上人，不僅取決于AI的運行與進化方式，也取決于人類自身。

南方科技大學(xué)馬兆遠教授在“20人20問”中，也給出過一個基于感性的答案：我們越來越清晰地知道，人類之所以在浩瀚的宇宙中依托這么一個渺小的星球航行，是因為作為人的智慧的偉大。

這樣的智慧，包含理性，但不為理性所束縛。因為我們知道理性的局限性，這個局限性需要人的感性來彌補，需要人的感性來引導(dǎo)。這也許是我們未來與機器共生的常態(tài)。

我們引導(dǎo)它們，與它們分工合作，它們能做的事情越來越多，越來越靠譜（可信），也因此讓人的感性獲得越來越大的自由。

我們或許可以據(jù)此猜測，超級AI也是有可能愛上人類的。

正如AI智慧的生成方式對我們來說還是不可知的“黑盒”一樣，人類對AI來說，也會存在一個單純理性無法理解的“黑盒”部分。

我們急切期待著破解AI的“黑盒”，AI也會試圖破解人類的“黑盒”——在相互“破解”的過程中，它們不僅實現(xiàn)了價值觀和智慧層面的“與人類對齊”，也會生成出與人類近似的情感模塊，允許它們跨越“物種”隔閡去欣賞、傾慕與自己精神契合的智慧生命。

許多事情至今仍是未知的，但也正是代表未知的“X”中，蘊含著令世界精彩的要素。女神可以愛上人，為什么AI就不可以呢？

三、“兩性”似乎是過時的概念，但家庭的實質(zhì)是財產(chǎn)關(guān)系

我們回到在騰訊新聞20周年特別策劃“20年20人20問”活動中，科幻作家韓松提出的那個問題：“人工智能、元宇宙未來會對兩性關(guān)系產(chǎn)生什么影響，家庭概念會消失嗎？”

他的朋友陳楸帆在回答中認為，元宇宙中本就蘊含著關(guān)于未來兩性關(guān)系和家庭關(guān)系的預(yù)設(shè)，未來的兩性與家庭關(guān)系都會越來越多元化。

兩性關(guān)系將不再局限于肉體存在，情感連接和精神共鳴會成為主導(dǎo)，同時兩性關(guān)系會出現(xiàn)更多“跨界”的現(xiàn)象，譬如《黑客帝國》中真實與虛擬的界限，未來的情侶就可能會跨越它。

實際上，“愛情”本身是一個很難討論的概念，當(dāng)我們討論“可能性”的時候，愛情永遠都是可能的。

它能存在于世仇的家族之間、名流貴族與赤貧者之間，存在于各種性別之間，甚至可以超越種族藩籬存在于地球人與外星生命甚至非生命之間……愛情是超功利、超階層的、超理性的，某種意義上，也意味著它隨時會跳出邏輯框架。

AI如果真的進化為超級智慧，它們是會產(chǎn)生“愛情”這個不穩(wěn)定因素，還是將它作為無效數(shù)據(jù)排除掉？按照“對齊人類”的方向看，好像更可能是前者。

相對來說，“家庭”則是個更合乎理性的話題。

恩格斯在《家庭、私有制和國家起源》中就曾有過論斷：家庭的本質(zhì)是一種財產(chǎn)關(guān)系。在生產(chǎn)力進步到足以保留剩余產(chǎn)品以后，公有制逐漸讓位于私有制，某種意義上，對偶婚、宗族、家庭……這些概念都是私有制的副產(chǎn)品。

家庭是個流變的概念，封建家庭與現(xiàn)代家庭之間差別極大，原始氏族與封建家庭也大有不同，而這種概念流變在本質(zhì)上是在適應(yīng)社會形態(tài)的變更。

而倫理更是為社會形態(tài)服務(wù)的東西，馬克思·韋伯的《新教倫理與資本主義精神》有一個重要內(nèi)容，就是把資本主義的獲利精神、終極正當(dāng)性與宗教形態(tài)進行的結(jié)合，認為商業(yè)獲利是符合新教倫理的，是可以作為人生的終極目標的。古老的宗教倫理，要為新生的資本主義服務(wù)，一切歷史都是當(dāng)代史。

所以AI介入人類的情感，人與AI的廣泛結(jié)合會改變家庭的基本形態(tài)，甚至讓家庭消失嗎？

這個問題如果從本質(zhì)上思考，問的其實是：AI會改變私有制嗎？“資本主義精神”會終結(jié)嗎？

答案于是也很容易給出，超級AI的出現(xiàn)在我們目力所及的范圍內(nèi)，并不會動搖私有制。家庭倫理的穩(wěn)定性，本質(zhì)上是來源于財產(chǎn)制度而不是愛情或別的什么東西。

譬如，當(dāng)父親不再是家庭收入來源的絕對核心，封建父權(quán)制家庭就會逐漸瓦解，但現(xiàn)代社會依然保留家庭，意味著現(xiàn)代人依然需要這種組織分配財產(chǎn)的方式。

AI是否能夠顛覆現(xiàn)有家庭形態(tài)，要看它在多大程度上能夠參與社會財富分配。在AI自己還是一種“財產(chǎn)”的時候，多元化家庭無從談起。

陳楸帆老師在談?wù)摰氖且环N遙遠的未來，只有當(dāng)AI突破了實體限制，掌握了財富的分配權(quán)，我們才可能會看到更多基于共同興趣、價值觀或生活方式而非血緣的社區(qū)化家庭出現(xiàn)。

到了那個時候，社會依然會保持原教旨私有制嗎？如果私有制基礎(chǔ)動搖，那么家庭這個概念走入歷史也是完全可以想象的了。

“20人20問”只是個開始，人類在可以預(yù)見的未來會高頻率、高強度地討論AI，歷史上生產(chǎn)力進步所推動的社會形態(tài)變更從來就是最重要的議題，沒有之一。

愛情與家庭，都只是這個大議題的一小部分，它關(guān)系到我們?nèi)绾握J識社會，如何認識自己，每每漫長的思考才能得出階段性的結(jié)論。

而確定的事情是，我們不能停止提問。