文|正解局
“大家好我們又見面了！”
2024年商湯科技年會上，公司創(chuàng)始人湯曉鷗這句問候，令在場所有人淚目又驚喜。
因為這個“湯曉鷗”并非真正的活人，而是用AI技術“復活”的“數(shù)字人”。
2023年年底，湯曉鷗在上海因病搶救無效去世，讓無數(shù)熟悉他的人深感惋惜。
如今，“AI湯曉鷗”以如此生動的形式重返人間，不僅令人感受到科技進步的力量，更引發(fā)一股數(shù)字AI“復活”親人的熱潮。
其實，早在“AI湯曉鷗”之前，著名音樂人包小柏就利用AI技術復刻出“數(shù)字女兒”，不僅能用日常的音容和父母對話，還在她媽媽的生日宴獻上一曲生日歌。
UP主@吳伍六也曾在網(wǎng)上分享了他AI“復活”奶奶的全過程，視頻在網(wǎng)絡引發(fā)巨大反響，不僅讓人們找到緬懷逝者一種新的心靈寄托，也讓很多人看到了商機。
UP主@吳伍六AI“復活”奶奶的視頻截圖
通過數(shù)字AI技術“復活”親人，本質上是基于逝者生前留下的影像資料，借助神經(jīng)網(wǎng)絡、深度學習等AI算法，搭建出逝者的思維模型。
如今，“AI復活”的親人技術，不僅在一定程度上緩解了人們對親人的思念之情，同時也成為一條全新的產業(yè)鏈。
清明前夕，這項業(yè)務更是火爆異常。
在某電商平臺上搜索“AI復活”，能看到不少相關店鋪，但由于這個行業(yè)尚無統(tǒng)一的收費標準，價格和服務質量參差不齊。
一般來說，市面上的“AI復活”產品，根據(jù)成本高低、技術難度，主要分為三檔。
某寶上展示的AI復活技術產品
最低檔價格只有10元，客戶只需提供一張親人正面照片，準備50字左右的文字內容，半天之內即可收到一個“數(shù)字親人”的短視頻。
說白了，這些服務都是賺“信息差”的錢，商家?guī)缀醵际翘子媚承〢I軟件的“照片說話”項目批量作業(yè)。
由于照片質量以及各類AI軟件技術等原因，這種低價的“親人說話”視頻不僅說話時五官變形嚴重，聲音也極為生硬，實在“慘不忍睹”。
中檔則是一種價格在百元左右的“AI換臉”項目。
這項服務特點就是“投機取巧”，在客戶提供的照片、視頻等資料基礎上，利用AI換臉技術，套用真人模特替換被克隆者的形象和聲音后生成，看上去倒也栩栩如生。
只是這種項目很考驗技術，許多商家做出來的“換臉親人”不僅臉型和動作脫節(jié)，表情也極為僵硬，經(jīng)常出現(xiàn)身體在動，臉部卻紋絲不動的恐怖畫面。
最貴的，要數(shù)售價超千元的“數(shù)字人克隆”。
這種項目一般要求客戶提供至少10秒的單人正臉視頻、30秒無雜質的錄音或語音內容，等待至少一周時間。
事實上，這種項目是借助更為成熟的AI捕捉技術，通過模型重塑一個與真人無異的“數(shù)字親人”。
無論形象、聲音還是動作表情，均可以假亂真，逼真度可達95%以上。
如果對這些項目還不滿意，某些更為專業(yè)的AI網(wǎng)站已經(jīng)宣稱，可提供超萬元的“豪華版數(shù)字人”服務。
數(shù)字克隆人網(wǎng)絡圖
這種技術其實與湯曉鷗和包小柏女兒的數(shù)字復活項目類似，主打的就是“不僅像，而且還有靈魂”。
事實上，人類一生產生的數(shù)據(jù)量其實并不大。
根據(jù)微軟公司的研發(fā)信息顯示，普通人一生可能產生的數(shù)據(jù)，只需約1TB的硬盤容量就夠了。
這點數(shù)據(jù)處理量對于如今的AI來說，實在是“小菜一碟”。
此類項目核心就是盡可能多地采集克隆對象的一切信息資料，從而讓AI通過算法分析和模擬出對方的性格、說話口氣、思維習慣等信息。
請注意，我們提到的是“克隆對象”啊。
因為這種技術不只是用來復制死者，只要有足夠的數(shù)據(jù)量，復制活人也沒任何問題。
AI可以定制逝者，也能克隆活人
這就帶來一個新的問題：AI復制出的“數(shù)字人”，相關的信息如何保護？
其實，大部分客戶在網(wǎng)上定制“數(shù)字親人”時，未必會注意到商家會在相關視頻下標注“不做人臉識別，只做親人懷念”的提醒語。
很多商家雖然接單時都會承諾“所有數(shù)據(jù)是嚴格保密的，不會用于不法途徑或者網(wǎng)上進行二次傳播”。
可這對于客戶來說，只是一種心理安慰。
畢竟，網(wǎng)上商家不僅AI技術水平良莠不齊，也不乏心懷叵測之徒。
想想看，網(wǎng)上定制“AI親人”，雖然是線上發(fā)貨，可后臺是可以看到客戶詳細電話和地址等信息的。
雖然大部分客戶定制是為了緬懷逝去的親人，可也有不少人是為了好玩去定制自己寶寶和其他家人的搞怪或祝福內容。
而且，為了更為逼真的效果，就需要盡可能多地提供相關的對話、視頻和照片，甚至還可能在溝通時，說出更多家庭或個人隱私，從而帶來不必要的風險。
雖然不能說從事“AI復活”的商家都會將資料拿去作不法用途，可想想這些年我們不知何時被泄露的家庭地址、電話信息，這些更為具體的視頻與身份信息很難說不會被盜用。
任何時候，越高級的技術往往越是一把“雙刃劍”，既可能給人們帶來便利，也可能淪為犯罪分子使用的“新道具”。
自從生成式AI爆火，基于“AI換臉”的詐騙案件在過去一年層出不窮，有人甚至在短短10分鐘內就被騙數(shù)百萬元。
2023年5月，包頭警方發(fā)布一起使用智能AI技術進行電信詐騙的案件，福州市某科技公司的郭先生10分鐘內被騙430萬元。
這位人在包頭的“好友”通過微信視頻聯(lián)系郭先生，因外地投標需要對公賬戶過賬，所以想要借用郭先生公司的賬戶走賬。
基于對“好友”的信任，加上已經(jīng)視頻聊天核實了身份，郭先生沒有核實錢款是否到賬，就分兩筆把430萬轉到了“好友”的銀行卡上。
事后，郭先生才發(fā)現(xiàn)被騙。
對方通過“AI換臉”技術，佯裝成好友對其進行了詐騙。
郭先生事后懊惱地說：“他當時是給我打了視頻電話的，我在視頻中也確認了面孔和聲音，所以才放松了戒備?！?/p>
網(wǎng)上出現(xiàn)的利用AI換臉技術的新騙局
雖然包頭和福州警方接警后立即行動，成功追回三百多萬元，但還有近百萬資金無法追回。
這還算是簡單版的“AI換臉”騙局，更高級的詐騙能直接通過人工智能深偽（Deep Fake）技術詐騙上億港元。
今年2月，香港警方就曾公布過一起案件：某跨國公司香港分行的財務，收到假冒該公司英國總部首席財務官的信息，邀請對方參與一個多人視頻會議。
起初，這位財務對自己突然參加這么高級別的會議有些懷疑，可由于參與視頻會議的成員容貌“與真實人士一樣”，財務還是放松了警惕。
最終，他按照“總部領導”指示分15次匯款2億港幣（約1.84億元人民幣），轉賬至5個本地戶口。
當報案人最終向總公司查詢之后，才發(fā)現(xiàn)被騙。
據(jù)香港媒體報道，詐騙分子是利用了人工智能的深度偽造技術，從國外視聽網(wǎng)站YouTube上下載視頻，通過更為先進的Deepfake（深度偽造）技術模仿了相關人士的視頻人像和聲音，制造多人參與視頻會議的假象。
事實上，整個會場其實只有這位香港財務是“真人”，其余都是“數(shù)字人“。
為了不露破綻，視頻會議期間，對方采取了“直接下達命令”的方式，絲毫不給財務反應的時間。
這起案件涉及金額達2億港元的詐騙案，不僅是香港歷史上損失最慘重的“換臉”案例，也是國內目前涉及“AI換臉”案件被騙金額最高的案件。
香港警方除了同樣提醒市民做好信息防范，還提醒一旦遇到此類可疑視頻內容，可要求對方在鏡頭前作出指定動作，或在會議期間不斷向對方提問來辨別真?zhèn)巍?/p>
除了AI技術可能帶來的騙局，AI涉足人類的生死之事，依然極具挑戰(zhàn)。
日本電影《入殮師》中有一句臺詞：死可能是一道門，逝去并不是終結，而是超越。
電影《入殮師》劇照
可面對親人的離世，我們大部分人都無法真正能有如此超脫的意識。
通過AI技術“復活”親人，或許能滿足親友的不舍之情，但是也帶來新的倫理挑戰(zhàn)：AI“復活”的“人”是否能真正代表死者本人？
“即便模仿得再像，她也不愛我。”一位利用AI“復活”妻子的丈夫在網(wǎng)上悲切地說。
事實上，基于目前的技術條件，即便是價格不菲添加了所謂前世記憶的“數(shù)字親人”，與我們想象中具有細膩情感要素的活人還是相差甚遠，更無法真正替代已經(jīng)離開這個世界的他（她）。
更值得關注的，是“AI復活”技術背后暴露出的法律和倫理問題。
要知道，技術是可以被任何人掌握的。
因此，理論上，任何離開這個世界的人，都有可能被人以不同方式“復活”。
但是，這種“復活”是不是都能被其親人接受呢？
答案是否定的。
之前，許多視頻博主未經(jīng)李玟家屬同意，利用AI技術“復活”李玟，擅自利用李玟肖像制作、發(fā)布“AI復活李玟”系列短視頻，以溫情之名非法牟利，備受爭議。
這樣的情況在很多已經(jīng)離世的明星和名人身上都曾出現(xiàn)過，也毫無例外被其家屬抗議和反對。
今年3月28日，李玟母親委托律師對此發(fā)表聲明，指出“AI復活李玟”系列內容已經(jīng)給李玟母親及其家人帶來巨大心理沖擊和二次傷害，警告涉嫌侵權責任人7日內下架、刪除含有上述侵權內容的相關圖片、視頻及文章。
李玟母親委托律師發(fā)布的律師函
事實上，根據(jù)《中華人民共和國民法典》等相關法律規(guī)定，死者的姓名、肖像、名譽、榮譽、隱私、遺體等受到侵害的，其配偶、子女、父母有權依法請求行為人承擔民事責任。
因此，不要以為誰離開人世，就能隨意通過“AI復活”來博取關注和流量。
這類未經(jīng)死者家屬授權的行為，同樣會受到法律的嚴懲。
客觀上說，無論是從倫理還是法律角度，當一個人離開了這個世界，并不代表他（她）在這個世界就可以被肆意描繪。
作為一種提供情緒價值的新式手段，“AI復活親人”確實有一定市場和需求，但也必須看到，這種技術一旦被濫用，甚至淪為嘩眾取寵的工具，不僅會給死者家庭帶來二次傷害，更是對死者最大的不公和侮辱。
為此，2023年歐盟出臺了《人工智能法案》，將AI技術劃分為“不可接受”、“高風險”、“中風險”和“低風險”四個管控等級。
2023年7月10日，中國也起草了《生成式人工智能服務管理辦法》，不僅再次強調了保護個人隱私的重要性，也強調了不得含有違法和有違公序良俗的內容。
顯然，國內外都已經(jīng)意識到，“AI復活”會帶來隱私、倫理等方面的社會隱患，必須及時進行防范。
不過，法律終歸是道德的最低要求，AI技術異乎尋常的生長速度，必然會帶來許多令人意想不到的倫理考驗，監(jiān)管依然面臨各種難題。
在法律和倫理的交匯點上，我們需要更加謹慎地平衡技術發(fā)展與人類情感之間的關系，確保每一次“復活”都是對生命的尊重和對記憶的珍視。
只有這樣，“AI復活親人”才能真正成為人類情感世界中的一份寶貴財富，而不是一種對過去的侵犯。
同時，我們也希望更多的人可以坦然面對親人的離世，將這份思念深埋心底。
如同我們熟悉的那段話：面對告別最好的態(tài)度，就是好好告別。