文|豹變 宋子豪
編輯|劉楊
自從5月底“AI詐騙正在全國爆發(fā)”登上熱搜后，利用AI換臉技術(shù)的詐騙事件頻繁發(fā)生。
近日，中國銀河證券發(fā)布公告稱：利用“AI合成技術(shù)”的詐騙手段或?qū)⒅鸩铰又磷C券行業(yè)。公告顯示，某知名經(jīng)濟(jì)學(xué)家稱，自己被人利用“AI換臉”等技術(shù)，通過視頻、語音等方式聯(lián)系投資者，騙取投資者信任，開展薦股活動。
此前已經(jīng)有哈爾濱、福州等多地網(wǎng)警通報有關(guān)AI換臉的詐騙事件，有人10分鐘被騙了430萬。
而“AI換臉”詐騙猖獗的當(dāng)下，社交平臺上也涌現(xiàn)了一批推銷“AI換臉教程”的賬號。
這些賬號發(fā)布的視頻，主要內(nèi)容都是人物手一揮就換了一張臉。視頻還會同時搭配洗腦的音樂，簡單的動作，以及“AI換臉教程、直播實時換臉、視頻實時換臉、自定義換臉”等相關(guān)文字。
如果有用戶在視頻下面回復(fù)，他們就會在評論區(qū)引導(dǎo)，讓用戶加聯(lián)系方式詳談。
這些賬號背后的上傳者，自稱是自媒體時代的成功學(xué)導(dǎo)師，不斷追逐熱點，付費傳授各種流量密碼。
只不過，這一次的“AI換臉”尚處于監(jiān)管灰色地帶，參與其中的用戶可能稍不留神，就從“知識付費”變成“今日說法”。
01 AI詐騙之后，“換臉”教程席卷平臺
5月底，有不少網(wǎng)友發(fā)現(xiàn)，當(dāng)紅女星“楊冪”“迪麗熱巴”親自在某女裝品牌直播間帶貨。她們互動熱情，介紹專業(yè)，短時間引來大量網(wǎng)友圍觀。
但仔細(xì)看，主播的臉又不太像明星本人，如果主播扭頭的幅度太大，居然會瞬間“顯出原形”，變出另一張臉來。更有人在不同直播間同時看到多個“楊冪”“熱巴”。一時間，“明星主播”分身有術(shù)，處處有“楊冪”，個個是“熱巴”。
經(jīng)過媒體曝光，人們才發(fā)現(xiàn)，原來部分直播間在未標(biāo)識情況下，用AI換臉技術(shù)，讓主播套上一張明星臉，誤導(dǎo)消費者。
想起差點因為虛假的明星效應(yīng)沖動消費，人們對AI換臉的魔力越發(fā)心有余悸。
視頻換臉技術(shù)出現(xiàn)已久，早在2019年，一款名為“ZAO”的換臉App就曾紅極一時，用戶只要上傳一張自己的正面照，就可以在電影角色的臉上套上自己的五官，與明星同臺飆戲。
到了2021年年初，換臉應(yīng)用程序Avatarify一度登上了App Store中國區(qū)應(yīng)用免費榜榜首，但不到一個星期，該應(yīng)用就被中國區(qū)App store下架。
這些軟件的技術(shù)往往來自于DeepFake開源技術(shù)，依托大數(shù)據(jù)和人工智能深度學(xué)習(xí)機(jī)制，對既有視頻或圖片中的人物面部圖像進(jìn)行替換。
雖然當(dāng)時的換臉技術(shù)還不夠逼真，但已經(jīng)能讓一些短視頻創(chuàng)作者吸引流量。
在2021年3月，TikTok上的某個視頻賬號就通過換臉技術(shù)，制作了換臉湯姆克魯斯練習(xí)高爾夫、表演魔術(shù)、講笑話等視頻，發(fā)布沒多久就收獲了20多萬粉絲。
當(dāng)時，這種技術(shù)門檻較高。視頻制作者宣稱使用了開源的DeepFaceLab算法以及其他的視頻編輯工具，通過將傳統(tǒng)的視覺特效與DeepFake技術(shù)相結(jié)合，前后花了整整兩個月的時間制作。此外，硬件上還需要使用一對NVIDIA RTX 8000 GPU訓(xùn)練AI模型，才能達(dá)到以假亂真的效果。
隨著近兩年來技術(shù)大爆發(fā)，不僅出現(xiàn)了幾乎可以傻瓜式操作換臉的相關(guān)軟件，逼真程度也一再上升，目前已經(jīng)可以做到實時換臉，從而應(yīng)用到上面提到的直播領(lǐng)域。
但是從娛樂領(lǐng)域到商業(yè)領(lǐng)域，AI換臉還處于灰色地帶。
在此前的報道中，有法律人士認(rèn)為，使用AI換臉技術(shù)時，應(yīng)有顯著標(biāo)識，以免公眾混淆。而未經(jīng)明星同意使用其肖像直播帶貨，可能涉嫌多項侵權(quán)。
2023年3月，某短視頻平臺上的特效師通過把電視劇中男主角的臉換成自己的臉，合成與女明星親吻的影像，并借此宣傳售賣“特效換臉教程”，也引發(fā)了很大爭議，并且該賬號“特效合成師洪亮（收徒）”被平臺封號15天。
目前短視頻平臺對于這類行為提出了規(guī)范。比如2023年5月9日，抖音發(fā)布“關(guān)于人工智能生成內(nèi)容的平臺規(guī)范暨行業(yè)倡議”，其中提到創(chuàng)作者應(yīng)對人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識，同時虛擬人需在平臺進(jìn)行注冊，虛擬人技術(shù)使用者需實名認(rèn)證。
而在政策監(jiān)管上，今年1月生效的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》也指出，提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識，避免公眾混淆或者誤認(rèn)。并要求任何組織和個人不得采用技術(shù)手段刪除、篡改、隱匿相關(guān)標(biāo)識。
面對平臺和監(jiān)管部門的圍追堵截，換臉明星以吸引流量的路子走不通。部分博主發(fā)現(xiàn)以身犯法不行，轉(zhuǎn)身賣起了所謂的AI換臉課程。
02 79元就能“換”30張臉
此前，央視財經(jīng)曝光“主播AI換臉明星進(jìn)行直播”時提到，在網(wǎng)上購買一套AI實施換臉的模型需3.5萬元。
只過了一個多月的時間，AI換臉的價格正在迅速平民化。如今，只需要79元，一個AI換臉套餐就能幫你換30張臉。
《豹變》在社交平臺上搜到了有關(guān)“AI換臉教程，直播實時換臉，視頻通話換臉”的相關(guān)視頻，視頻下方的商品鏈接中售賣相應(yīng)的課程——不僅提供“AI換臉直播間搭建”工具包＋教程，同時“包教包會換臉直播，79元可以解鎖30張面孔”。
店鋪顯示，該課程已售13份。《豹變》詢問后并沒有得到回復(fù)，截至發(fā)稿，相關(guān)產(chǎn)品已經(jīng)下架。
類似售賣AI變臉課程的賬號往往非常謹(jǐn)慎，多數(shù)賬號在視頻中并不直接宣傳賣課，而是以“帶你玩AI換臉”等字眼，吸引用戶主動詢問。
此外，賣家還會通過大批沒有其他內(nèi)容的僵尸號，批量轉(zhuǎn)發(fā)同樣的視頻，然后在賬號簡介或私信中交換聯(lián)系方式。
《豹變》從一位賣家客服那里了解到，不同的套餐價格不一樣，包括588元的入門版本、888元的基礎(chǔ)版本、1388元的進(jìn)階版本，以及2888元的專業(yè)版本。
客服表示，如果用于直播帶貨，建議購買2888元的專業(yè)版本：“我們這個活動很劃算了，永久免費使用，包更新，后續(xù)這個價格會變?yōu)槟昕??！?/p>
有相關(guān)行業(yè)從業(yè)者表示，類似的AI換臉技術(shù)主要來自于國外開源項目：“最近AI技術(shù)大爆炸，很多技術(shù)都是開源的，而且更新非?？臁a(chǎn)自研技術(shù)也有，但都是有投資的公司做的，而且效果不理想。”
類似的開源項目，官方網(wǎng)站上就有使用教程。一些人搬運到國內(nèi)之后，開始打包賣課程和教程，成本幾乎為零。
比如，B站、抖音等視頻網(wǎng)站上的很多AI換臉視頻都是通過DeepFaceLab生成的。DeepFaceLab安裝簡單，更新快，功能強，模型多，參數(shù)豐富，對設(shè)備配置要求低。
其他熱門的軟件，比如Fake App、OpenFaceSwap等，都能在互聯(lián)網(wǎng)上找到相關(guān)資源。
對此，《豹變》向售賣課程的客服核實售賣的軟件是否屬于開源項目，希望對比使用界面，客服卻宣稱，自家產(chǎn)品屬于內(nèi)部軟件，不方便公開。
而其他從事AI技術(shù)科普的博主告訴《豹變》，這就是靠信息差割韭菜。
03 AI換臉的用武之地在哪？
比起其他AI技術(shù)誕生之后備受各方矚目，AI換臉技術(shù)似乎只得到違法分子的青眼。“換臉”的作用總讓人想到灰色產(chǎn)業(yè)，在實時換臉技術(shù)成熟之后，沒想到最先降低的似乎是違法成本。
實際上，此前AI換臉技術(shù)常運用于影視劇領(lǐng)域，一些曾因劣跡藝人被迫雪藏的影視劇，也是憑借AI換臉技術(shù)重見天日。而當(dāng)實時換臉成為可能后，AI換臉技術(shù)也有可能在直播領(lǐng)域找到用武之地。
通過AI換臉，品牌方可以讓不同直播間里的主播共享同一張臉，一方面可以強化品牌IP與主播的連接，另一方面也可以減少主播流失帶來的損失，擺脫對大主播的依賴。
此前大熱的數(shù)字人直播技術(shù)，目前還面臨著技術(shù)不夠成熟、對算力的要求過高、互動能力不足等尷尬情況。相對來說，AI換臉技術(shù)更為經(jīng)濟(jì)實用。
而且，AI換臉技術(shù)已經(jīng)在部分特殊場景有所應(yīng)用。比如，對于國內(nèi)中小跨境電商商家來說，外籍主播和模特的人力成本略高，導(dǎo)致運營壓力過大。所以，有TikTok商家通過AI換臉將英語口語能力不錯的國內(nèi)主播、模特?fù)Q臉變成外籍主播、模特，以減少人力成本。
目前已經(jīng)有電商公司、科技公司在著手研究AI換臉技術(shù)。電商直播行業(yè)龍頭遙望科技曾于5月15日發(fā)布公告稱，與小冰公司簽訂關(guān)于《直播電商人工智能技術(shù)/產(chǎn)品戰(zhàn)略合作》的協(xié)議，雙方就AI技術(shù)、產(chǎn)品的研發(fā)、推廣等事項在直播、短視頻、電商等領(lǐng)域展開全面合作。其中包括AI換臉技術(shù)的研發(fā)。
騰訊旗下優(yōu)圖實驗室、天天P圖聯(lián)合打造的AI變臉玩法等，也在嘗試能夠完成人臉替換、人臉再現(xiàn)、人臉合成甚至全身合成、虛擬環(huán)境合成等功能。
相對應(yīng)的，針對AI換臉的檢測技術(shù)也在發(fā)展。企查查顯示，2022年10月4日，百度申請的“人臉鑒偽方法、裝置及計算機(jī)程序產(chǎn)品”專利公布。該專利涉及人工智能技術(shù)領(lǐng)域，具體涉及深度學(xué)習(xí)技術(shù)，可用于人臉鑒偽場景，提高了人臉圖像鑒偽結(jié)果的準(zhǔn)確度。
對于AI換臉技術(shù)在灰色產(chǎn)業(yè)的濫用，在監(jiān)管和鑒別技術(shù)逐漸完善的情況下，類似情況應(yīng)該會得到控制。目前來看，需要更多的相關(guān)科普、反詐知識來謹(jǐn)防AI換臉詐騙。