文|創(chuàng)瞰巴黎 Sirine Azouaoui

編輯|Meister Xia

導(dǎo)讀

隨著虛擬化身技術(shù)的崛起，人們可以通過(guò)與逝者的聊天機(jī)器人互動(dòng)，延續(xù)與已故親人的交流。然而，這一技術(shù)引發(fā)了眾多爭(zhēng)議和擔(dān)憂，如心理影響、數(shù)據(jù)使用等問(wèn)題。在這個(gè)充滿可能性和挑戰(zhàn)的新領(lǐng)域中，我們需要認(rèn)真思考：逝者機(jī)器人的出現(xiàn)是否邁出了道德和社會(huì)的界限？人們?cè)趯?duì)待逝者數(shù)據(jù)時(shí)應(yīng)該如何平衡尊重與隱私保護(hù)的關(guān)系？AI技術(shù)的快速發(fā)展是否需要更加嚴(yán)格的監(jiān)管和規(guī)范？

一覽：

• AI的最新進(jìn)展，讓逝者的數(shù)字化保存技術(shù)更上一層樓。
• 一些企業(yè)正在開(kāi)發(fā)虛擬永生技術(shù)，基于逝者在網(wǎng)上留下的信息，生成一個(gè)虛擬化身或聊天機(jī)器人，供人們與逝者交流，以這種方式“延續(xù)生命”。
• 這些虛擬化身利用生成式AI技術(shù)，通過(guò)學(xué)習(xí)逝者生前的錄音、信息、趣聞?shì)W事等數(shù)據(jù)來(lái)生成內(nèi)容。
• 盡管AI技術(shù)已經(jīng)取得了諸多進(jìn)展，但現(xiàn)階段的虛擬化身仍不完美，專(zhuān)業(yè)人士擔(dān)心用戶(hù)會(huì)誤以為聊天機(jī)器人是人類(lèi)、產(chǎn)生依戀心理，并逐漸與世隔絕。
• 我們需要幫助用戶(hù)了解這些工具的風(fēng)險(xiǎn)和挑戰(zhàn)，并明確數(shù)據(jù)使用權(quán)的歸屬，從而為相關(guān)實(shí)踐提供一個(gè)規(guī)范框架。

人們離世后，留下的個(gè)人數(shù)據(jù)將何去何從？其實(shí)，很多都會(huì)保留在數(shù)字空間中，如網(wǎng)站和社交平臺(tái)上的個(gè)人資料等。不少網(wǎng)絡(luò)平臺(tái)都開(kāi)辟了紀(jì)念功能，比如，當(dāng)臉書(shū)（Facebook）用戶(hù)離世后，賬戶(hù)便會(huì)被設(shè)為悼念帳戶(hù)，供人們悼念逝者、留言，并發(fā)布照片。

如今，有了人工智能（AI）技術(shù)的助力，我們能夠進(jìn)一步升級(jí)對(duì)逝者的數(shù)字化保存。比如，一些企業(yè)正在開(kāi)發(fā)虛擬永生技術(shù)，基于逝者在網(wǎng)上留下的信息，生成一個(gè)虛擬化身或聊天機(jī)器人，供人們與逝者交流，以這種方式“延續(xù)生命”。早在2017年，微軟就申請(qǐng)了一項(xiàng)基于個(gè)人數(shù)據(jù)創(chuàng)建對(duì)話替身的專(zhuān)利，并于四年后獲得批準(zhǔn)。他們的想法是，創(chuàng)建一個(gè)虛擬化身來(lái)賦予逝者生命。“人們總希望自己能戰(zhàn)無(wú)不勝、長(zhǎng)生不老，對(duì)死亡的抗拒可謂是刻在骨子里，”法國(guó)索邦大學(xué)AI專(zhuān)業(yè)教授Laurence Devillers解釋說(shuō)，“這樣說(shuō)來(lái)，如果每個(gè)人都愿意付費(fèi)在逝去后生成一個(gè)虛擬化身或是聊天機(jī)器人，那將極具經(jīng)濟(jì)效益?！?/p>

自2017年之后，一個(gè)全新的行業(yè)如雨后春筍般出現(xiàn)。2018年，美國(guó)記者James Vlahos開(kāi)發(fā)了一個(gè)聊天機(jī)器人，經(jīng)過(guò)訓(xùn)練后，說(shuō)話口吻與其因癌癥去世的父親一模一樣。在父親生前， Vlahos對(duì)父親進(jìn)行了采訪，并全程錄音。隨后，Vlahos與他人共同創(chuàng)辦了一個(gè)“交互式記憶應(yīng)用”平臺(tái)，名為HereAfter AI。這一平臺(tái)可以在人們?cè)谑罆r(shí)記錄下他們的故事、回憶，并留下錄音，在他們?nèi)ナ篮笠粤奶鞕C(jī)器人的方式繼續(xù)與親朋好友對(duì)話。許多初創(chuàng)公司都提供創(chuàng)建數(shù)字化身的服務(wù)，讓人們?cè)谒篮罄^續(xù)“存在”在世上。韓國(guó)企業(yè)Deepbrain AI推出了一種名為Re:memory的技術(shù)，用戶(hù)只需花費(fèi)一萬(wàn)美元，便可通過(guò)投射影像的方式，與一個(gè)具有逝者面容、聲音和表情的虛擬化身互動(dòng)。英國(guó)企業(yè)Somnium Space則是想要更上一層樓，讓用戶(hù)在元宇宙中享受與逝者的沉浸式互動(dòng)。

01 基于海量數(shù)據(jù)創(chuàng)建虛擬化身

生成式AI的快速發(fā)展讓上述設(shè)想成為了現(xiàn)實(shí)。當(dāng)前，網(wǎng)絡(luò)上普遍存在各種聊天機(jī)器人，能在語(yǔ)義上理解用戶(hù)的語(yǔ)言輸入，并做出回復(fù)。類(lèi)似地，“逝者機(jī)器人”在學(xué)習(xí)數(shù)十億條數(shù)據(jù)后，可以模仿人類(lèi)進(jìn)行對(duì)話。無(wú)論是錄音、電子郵件、短信、來(lái)自別人的評(píng)價(jià)、還是生平事跡都可以作為資料，來(lái)創(chuàng)建虛擬化身。Devillers解釋道：“計(jì)算機(jī)會(huì)從死者的現(xiàn)有數(shù)據(jù)中尋找規(guī)律。生成式AI可以為大量數(shù)據(jù)建模，并為其配備人像和聲音。當(dāng)與用戶(hù)開(kāi)展對(duì)話時(shí)，AI會(huì)在這個(gè)龐大的模型中搜索被觸發(fā)的相關(guān)信息，這樣一來(lái)，AI可能會(huì)說(shuō)出一些死者從未說(shuō)出口的話?！?/p>

這些算法會(huì)讓人產(chǎn)生與逝者交談的錯(cuò)覺(jué)。在Devillers看來(lái)，這是且只是一種錯(cuò)覺(jué)。提供這些服務(wù)的初創(chuàng)公司通過(guò)復(fù)制逝者的樣貌、聲音和說(shuō)話方式，讓逝者得以“永生”，或是延續(xù)記憶。但是，這些“逝者機(jī)器人”永遠(yuǎn)無(wú)法完美重現(xiàn)逝者。Laurence警告說(shuō)：“從當(dāng)前的技術(shù)水平來(lái)看，聲音的模仿度已幾近完美，詞匯的選擇也極為貼切，但與完美之間永遠(yuǎn)存在著距離。機(jī)器也不可避免地會(huì)犯錯(cuò)，甚至胡編亂造?！?/p>

“該技術(shù)是好是壞還不能蓋棺定論，但從社會(huì)層面而言，我們還沒(méi)有做好充分準(zhǔn)備?！?/p>

AI就像一個(gè)基于數(shù)據(jù)統(tǒng)計(jì)的預(yù)測(cè)器。當(dāng)用戶(hù)與AI進(jìn)行對(duì)話時(shí)，算法會(huì)根據(jù)話題在數(shù)據(jù)庫(kù)中尋找答案。當(dāng)沒(méi)有現(xiàn)成答案時(shí)，算法只能使用相關(guān)性最高的內(nèi)容，這意味著生成的結(jié)果未必是當(dāng)事人會(huì)給出的回答。更重要的是，AI并不會(huì)隨時(shí)間的推移而調(diào)整與用戶(hù)之間的對(duì)話。“模型背后的數(shù)據(jù)擁有豐富的內(nèi)容，覆蓋多個(gè)語(yǔ)境。所以會(huì)帶來(lái)錯(cuò)覺(jué)，讓我們以為機(jī)器會(huì)根據(jù)提問(wèn)來(lái)調(diào)整回答。但事實(shí)上，機(jī)器是在記錄對(duì)話歷史，根據(jù)用戶(hù)的提問(wèn)和回答不斷豐富語(yǔ)料庫(kù)，從而變得越來(lái)越精確?；蛟S，未來(lái)能開(kāi)發(fā)出會(huì)隨我們而調(diào)整的技術(shù)，但明天尚未到來(lái)?！?/p>

02 用戶(hù)面臨的重大風(fēng)險(xiǎn)

因此，“逝者機(jī)器人”技術(shù)并不旨在讓人們實(shí)現(xiàn)永生，反而更像是為記憶注入生命，用“活著的記憶”來(lái)與用戶(hù)進(jìn)行對(duì)話和互動(dòng)。這些技術(shù)的開(kāi)發(fā)者聲稱(chēng)，它們不僅可以幫助我們更好地了解祖先，還可以用于寄托哀思。然而，我們遠(yuǎn)遠(yuǎn)無(wú)法斷言這些工具絲毫不存在負(fù)面影響。2021年，法國(guó)國(guó)家數(shù)字倫理試點(diǎn)委員會(huì)（CNPEN）與Devillers合著了一份報(bào)告，其中指出了常見(jiàn)聊天機(jī)器人（如商業(yè)網(wǎng)站上使用的類(lèi)型）的風(fēng)險(xiǎn)。用戶(hù)可能會(huì)在不知情的情況下，誤以為自己是在與人類(lèi)對(duì)話，并產(chǎn)生依戀心理。在Devillers看來(lái)，當(dāng)聊天機(jī)器人長(zhǎng)得與已故親人一模一樣，并用他們的聲音訴說(shuō)往事時(shí)，產(chǎn)生誤會(huì)的風(fēng)險(xiǎn)會(huì)更高。她擔(dān)心，“逝者機(jī)器人可能會(huì)延長(zhǎng)悼念的過(guò)程，使分離和痛苦的感覺(jué)更持久。這樣一來(lái)，我們與機(jī)器人的關(guān)系會(huì)變得更加難以界定。而且，人們對(duì)逝者心存愛(ài)意，也許會(huì)與聊天機(jī)器人難舍難分?！?/p>

由于機(jī)器不具備真正的推理能力或道德觀念，因此風(fēng)險(xiǎn)更大。報(bào)告指出，逝者機(jī)器人可能會(huì)帶來(lái)“恐怖谷效應(yīng)”。例如，聊天機(jī)器人可能會(huì)說(shuō)出令人反感的話，或是在一連串正常的應(yīng)答之后，說(shuō)出逝者完全不可能說(shuō)出的話。作者們擔(dān)心，這種效應(yīng)會(huì)導(dǎo)致晴天霹靂般的心理痛苦。Devillers還指出，人們可能會(huì)對(duì)這些機(jī)器人上癮，從而變得更為孤僻。

03 社會(huì)層面需對(duì)此類(lèi)工具開(kāi)展評(píng)估

除了擔(dān)心這些技術(shù)可能對(duì)用戶(hù)產(chǎn)生的心理影響之外，數(shù)據(jù)的使用方面也惹人擔(dān)憂。為了創(chuàng)建這些虛擬化身，AI算法需要從逝者處獲取大量數(shù)據(jù)。根據(jù)2016年的法國(guó)《數(shù)字共和國(guó)法》（Law for a Digital Republic），人們可以選擇保留、刪除或使用個(gè)人數(shù)據(jù)，并可以指派他人來(lái)執(zhí)行上述決策。然而，隨著逝者機(jī)器人的不斷涌現(xiàn)，收集、存儲(chǔ)和使用逝者數(shù)據(jù)也引發(fā)了一系列討論：兒童是否享有對(duì)數(shù)據(jù)的決策權(quán)？虛擬化身及其數(shù)據(jù)的使用是否要設(shè)置有效期？Devillers解釋道：“現(xiàn)狀是，聊天機(jī)器人開(kāi)發(fā)商會(huì)與用戶(hù)簽訂合同，由用戶(hù)決定其個(gè)人數(shù)據(jù)的使用情況?！?/p>

逝者機(jī)器人市場(chǎng)仍處于起步階段，用戶(hù)今后是否會(huì)每天大量使用這些工具仍是未知。不過(guò)，虛擬化身服務(wù)近年來(lái)正如雨后春筍般涌現(xiàn)。隨著聯(lián)網(wǎng)技術(shù)的發(fā)展，對(duì)話機(jī)器人可能會(huì)成為我們?nèi)粘Ｉ钪胁豢苫蛉钡囊徊糠?。Devillers認(rèn)為，社會(huì)層面需要對(duì)這些工具的使用展開(kāi)集體討論?！霸摷夹g(shù)是好是壞還不能蓋棺定論，但從社會(huì)層面而言，我們還沒(méi)有做好充分準(zhǔn)備。我們需要幫助用戶(hù)了解AI的挑戰(zhàn)和風(fēng)險(xiǎn)?！盌evillers還主張成立一個(gè)委員會(huì)，通過(guò)制定規(guī)則來(lái)規(guī)范相關(guān)做法。她總結(jié)道：“上述實(shí)踐將產(chǎn)生社會(huì)影響，因此，我們迫切需要嚴(yán)肅對(duì)待這一議題。相關(guān)決策不應(yīng)留給少數(shù)資本家來(lái)做?！?/p>

參考資料

Report by the French National Digital Ethics Committee on conversational agents, 2021