記者 | 姜菁玲

如果可以隨意換臉，世界會(huì)發(fā)生什么？ 

近日，界面新聞從人工智能公司瑞萊智慧處了解到，當(dāng)下人工智能所支持的深度合成技術(shù)門檻以及成本已經(jīng)“十分低”。瑞萊智慧CEO田天告訴界面新聞?dòng)浾?，普通人可以通過下載帶有換臉功能的APP，上傳照片后即可生成換臉圖像，甚至遷移至虛擬人上。雖然一些爆火的換臉APP很快被下架，但是目前一鍵換臉的開源APP非常多，公眾可以很輕松拿到。

“由于這些工具的使用，現(xiàn)在你在任何社交平臺(tái)都可以看到大量的虛假視頻，有影視娛樂也有帶有惡意意圖的內(nèi)容?！碧锾毂硎尽?/span> 

田天指出，換臉由深度合成技術(shù)所支持，指的是包含利用人工智能技術(shù)所生成的比較逼真，甚至以假亂真的視頻、語音、文本以及各類生成內(nèi)容。 

根據(jù)瑞萊智慧發(fā)布的《深度合成十大趨勢(shì)報(bào)告》，深度合成技術(shù)的影響范圍正在不斷擴(kuò)大。相比2017年，2021年國(guó)內(nèi)外十家主流音視頻平臺(tái)中的深度合成內(nèi)容新增量級(jí)超過十倍，涉及到影視、音樂、科技、教育、生活、娛樂、咨詢等不同方面。2021年深度合成視頻的新增點(diǎn)贊和喜歡達(dá)到了3.16億次，相比2017年增加了100倍以上。虛擬偶像、虛擬手語主播、老照片修復(fù)、劣跡藝人替換等新場(chǎng)景需求不斷涌現(xiàn)。

同時(shí)，深度合成技術(shù)濫用所造成的負(fù)面風(fēng)險(xiǎn)也在不斷加劇，并且產(chǎn)生許多實(shí)質(zhì)性的傷害。田天稱，危害可能涉及社會(huì)國(guó)家安全、公司以及個(gè)人名譽(yù)造成的損失。比如，犯罪分子利用深度合成技術(shù)偽造親人的換臉視頻或者語音去詐騙，騙取他人信息和資產(chǎn)，以及影視藝人被偽造不雅視頻在網(wǎng)絡(luò)中傳播等等。

而在社會(huì)層面，中國(guó)社會(huì)科學(xué)院科學(xué)技術(shù)和社會(huì)研究中心段偉文教授告訴界面新聞?dòng)浾?，由于人類?duì)視覺更加信任，視覺上的偽造要比其他媒體形式的偽造影響更大。如果視頻內(nèi)容的造假持續(xù)，公眾會(huì)對(duì)所有的視覺內(nèi)容真實(shí)性產(chǎn)生懷疑，它會(huì)大大削弱公眾對(duì)于媒體的信任，甚至喪失對(duì)揭示真相的信心，最終引發(fā)一種虛無主義。 

“目前深度合成的鑒別需求在快速增長(zhǎng)，但是鑒別難度也在快速提升?！碧锾熘赋?，鑒別難度提升的原因主要有兩點(diǎn)，一是深度合成的逼真度正在快速提高，已經(jīng)超越了人眼鑒別的能力范圍，人眼鑒別它的難度越來越大，甚至到?jīng)]有辦法分辨的成都。其次，目前新的深度合成技術(shù)具有強(qiáng)對(duì)抗性，它天然針對(duì)一些檢測(cè)方法進(jìn)行對(duì)抗攻擊，使檢測(cè)方法失效。

具體來看，瑞萊智慧副總裁唐家渝分析稱，深度合成鑒別具體的技術(shù)難度主要有三點(diǎn)：偽造的規(guī)則不斷快速迭代、再編輯導(dǎo)致的傳播效果折損可能無法保證檢測(cè)效果、算法判斷需要可解釋性。

目前，圍繞深度合成技術(shù)，國(guó)家層面已經(jīng)逐步建立治理和監(jiān)管的機(jī)制。國(guó)際方面，2018年美國(guó)已經(jīng)從聯(lián)邦和州層面進(jìn)行立法，歐盟方面將其納入了既定法律框架進(jìn)行規(guī)制。2019年起，我國(guó)已開始在相關(guān)法律法規(guī)中對(duì)深度合成技術(shù)進(jìn)行監(jiān)管規(guī)制，網(wǎng)信辦等部門推出的《網(wǎng)絡(luò)音視頻網(wǎng)絡(luò)管理規(guī)定》提到不得利用深度合成傳播虛假信息；2022年，網(wǎng)信辦發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定（征求意見稿）》里，旨在促進(jìn)深度合成技術(shù)依法合理有效利用，并且規(guī)范發(fā)展互聯(lián)網(wǎng)信息服務(wù)深度合成活動(dòng)，對(duì)深度合成的應(yīng)用治理提出了非常明確的要求規(guī)范。 

“深度合成技術(shù)無論在哲學(xué)上還是現(xiàn)實(shí)生活中，都涉及到社會(huì)認(rèn)知層面，我們需要提升這方面的安全意識(shí)，將它作為集體的責(zé)任，從媒體到公眾都應(yīng)該了解它的內(nèi)涵、惡意使用和濫用的場(chǎng)景，從而加深對(duì)它的了解，提高對(duì)它的鑒別力。”段偉文教授表示。