正在閱讀:

9秒轉(zhuǎn)走245萬,警惕AI換臉騙局

掃一掃下載界面新聞APP

9秒轉(zhuǎn)走245萬,警惕AI換臉騙局

AI是把“雙刃劍”。

文|支付百科 張浩東 徐不醒

近年來,由于詐騙手段的升級變異用戶們早就習(xí)慣了時(shí)刻保持警惕,但令人想不到的是,有人面對面騙走對方數(shù)百萬資金,還能讓對方毫無察覺。

01 AI換臉“熟人局”

前幾日“10分鐘被AI換臉騙走430萬元”的事件還未熄火,近日又出現(xiàn)一起“AI換臉9秒騙走245萬元”的事件,將“AI換臉詐騙”推向了輿論的風(fēng)口浪尖。

據(jù)了解,AI換臉詐騙主要通過“冒充熟人”讓受害人放松警惕,達(dá)到詐騙的目的,仿真度高、迷惑性強(qiáng)的特點(diǎn)增強(qiáng)了詐騙成功的可能性。

在“9秒騙走245萬元”事件中,受害人何某某表示,“視頻里邊我看到的是他的臉”、“但是沒幾秒就掛了,說不方便”。如圖:

隨后騙子稱自己在開會,微信和電話不能說,需要通過QQ進(jìn)行溝通,由于對方已經(jīng)證明是“好友”本人,何某某放松警惕,輕易就被帶入對方設(shè)好的圈套里,在對方向何某某表達(dá)有項(xiàng)目招標(biāo)需要對方幫忙墊付資金時(shí),何某某也毫不猶豫的轉(zhuǎn)賬。

何某某表示,“因?yàn)榇蛄艘曨l電話又是熟人”、“我就沒多想,就轉(zhuǎn)賬了”。而前兩天10分鐘被騙走430萬元的受害人也是因?yàn)閷Ψ酱蛄艘曨l電話是熟人的原因,輕易走進(jìn)騙局。

實(shí)際上,何某某的案件在4月份就已經(jīng)發(fā)生,4月末警方抓獲3名犯罪嫌疑人,前幾日將先行追回的132萬元被騙款返還給何某某,目前該案件還在進(jìn)一步偵辦中。

而更為常見的其實(shí)是騙子利用熟人的聲音降低受害人的警惕,以急事為理由避免受害人有時(shí)間確認(rèn)對方身份,迅速完成騙局。而AI 詐騙也提醒用戶,“眼見”不一定為實(shí),一旦涉及借錢、轉(zhuǎn)賬等敏感字眼,一定要謹(jǐn)慎行事。

02 撕開AI假面

AI騙局猖獗,有關(guān)部門發(fā)布公告表示,“伴隨著深度合成技術(shù)的開放,深度合成產(chǎn)品和服務(wù)逐漸增多...”AI詐騙的違法行為已經(jīng)屢見不鮮。

也有網(wǎng)友疑惑,對方是如何獲得好友的人臉、聲音信息的?

其實(shí)AI詐騙并非無的放矢的騙局,用戶在公開網(wǎng)站發(fā)布有關(guān)自己的視頻成了犯罪分子進(jìn)行AI詐騙的重要素材,視頻內(nèi)容越長、聲音越多越能合成更接近本人的AI人。有相關(guān)技術(shù)人員表示,目前了解到的AI換臉技術(shù)主要是采用Wav2Lip這種開源技術(shù),通過音頻驅(qū)動口型。

對消費(fèi)者來說,不論是盜取個(gè)人信息還是利用自己的身份進(jìn)行詐騙,都是難以接受的,而AI詐騙輕易就能獲得個(gè)人信息的行為無疑在挑戰(zhàn)監(jiān)管的底線。

在以往的電信詐騙案件中,犯罪集團(tuán)大多都有專門獲取用戶個(gè)人隱私的渠道,而這些渠道的信息來自手機(jī)里各式各樣的APP,針對APP違規(guī)采集、泄露個(gè)人信息的情況,監(jiān)管曾進(jìn)行明確規(guī)范,一些不合規(guī)的APP將面臨整改、下架處理。在近期工信部通報(bào)的一批因侵犯個(gè)人隱私違規(guī)的APP中,除了一些游戲、美圖類APP,還不乏一些支付機(jī)構(gòu)、銀行APP。

不過個(gè)人隱私泄漏不易察覺,用戶花心思識別AI詐騙手段也尤為重要。

相關(guān)人士認(rèn)為,AI換臉并非100%相似,用戶可以在與對方視頻通話的過程中讓對方做一些大幅度動作,AI人說話時(shí)口型、面部表情可能會出現(xiàn)不同于常人的異常,而且在轉(zhuǎn)賬、資金來往的場景中,應(yīng)當(dāng)通過回?fù)茈娫?、其他渠道?lián)系本人等多種方式核實(shí)對方信息,在確認(rèn)無誤后再進(jìn)行交易。

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請聯(lián)系原著作權(quán)人。

評論

暫無評論哦,快來評價(jià)一下吧!

下載界面新聞

微信公眾號

微博

9秒轉(zhuǎn)走245萬,警惕AI換臉騙局

AI是把“雙刃劍”。

文|支付百科 張浩東 徐不醒

近年來,由于詐騙手段的升級變異用戶們早就習(xí)慣了時(shí)刻保持警惕,但令人想不到的是,有人面對面騙走對方數(shù)百萬資金,還能讓對方毫無察覺。

01 AI換臉“熟人局”

前幾日“10分鐘被AI換臉騙走430萬元”的事件還未熄火,近日又出現(xiàn)一起“AI換臉9秒騙走245萬元”的事件,將“AI換臉詐騙”推向了輿論的風(fēng)口浪尖。

據(jù)了解,AI換臉詐騙主要通過“冒充熟人”讓受害人放松警惕,達(dá)到詐騙的目的,仿真度高、迷惑性強(qiáng)的特點(diǎn)增強(qiáng)了詐騙成功的可能性。

在“9秒騙走245萬元”事件中,受害人何某某表示,“視頻里邊我看到的是他的臉”、“但是沒幾秒就掛了,說不方便”。如圖:

隨后騙子稱自己在開會,微信和電話不能說,需要通過QQ進(jìn)行溝通,由于對方已經(jīng)證明是“好友”本人,何某某放松警惕,輕易就被帶入對方設(shè)好的圈套里,在對方向何某某表達(dá)有項(xiàng)目招標(biāo)需要對方幫忙墊付資金時(shí),何某某也毫不猶豫的轉(zhuǎn)賬。

何某某表示,“因?yàn)榇蛄艘曨l電話又是熟人”、“我就沒多想,就轉(zhuǎn)賬了”。而前兩天10分鐘被騙走430萬元的受害人也是因?yàn)閷Ψ酱蛄艘曨l電話是熟人的原因,輕易走進(jìn)騙局。

實(shí)際上,何某某的案件在4月份就已經(jīng)發(fā)生,4月末警方抓獲3名犯罪嫌疑人,前幾日將先行追回的132萬元被騙款返還給何某某,目前該案件還在進(jìn)一步偵辦中。

而更為常見的其實(shí)是騙子利用熟人的聲音降低受害人的警惕,以急事為理由避免受害人有時(shí)間確認(rèn)對方身份,迅速完成騙局。而AI 詐騙也提醒用戶,“眼見”不一定為實(shí),一旦涉及借錢、轉(zhuǎn)賬等敏感字眼,一定要謹(jǐn)慎行事。

02 撕開AI假面

AI騙局猖獗,有關(guān)部門發(fā)布公告表示,“伴隨著深度合成技術(shù)的開放,深度合成產(chǎn)品和服務(wù)逐漸增多...”AI詐騙的違法行為已經(jīng)屢見不鮮。

也有網(wǎng)友疑惑,對方是如何獲得好友的人臉、聲音信息的?

其實(shí)AI詐騙并非無的放矢的騙局,用戶在公開網(wǎng)站發(fā)布有關(guān)自己的視頻成了犯罪分子進(jìn)行AI詐騙的重要素材,視頻內(nèi)容越長、聲音越多越能合成更接近本人的AI人。有相關(guān)技術(shù)人員表示,目前了解到的AI換臉技術(shù)主要是采用Wav2Lip這種開源技術(shù),通過音頻驅(qū)動口型。

對消費(fèi)者來說,不論是盜取個(gè)人信息還是利用自己的身份進(jìn)行詐騙,都是難以接受的,而AI詐騙輕易就能獲得個(gè)人信息的行為無疑在挑戰(zhàn)監(jiān)管的底線。

在以往的電信詐騙案件中,犯罪集團(tuán)大多都有專門獲取用戶個(gè)人隱私的渠道,而這些渠道的信息來自手機(jī)里各式各樣的APP,針對APP違規(guī)采集、泄露個(gè)人信息的情況,監(jiān)管曾進(jìn)行明確規(guī)范,一些不合規(guī)的APP將面臨整改、下架處理。在近期工信部通報(bào)的一批因侵犯個(gè)人隱私違規(guī)的APP中,除了一些游戲、美圖類APP,還不乏一些支付機(jī)構(gòu)、銀行APP。

不過個(gè)人隱私泄漏不易察覺,用戶花心思識別AI詐騙手段也尤為重要。

相關(guān)人士認(rèn)為,AI換臉并非100%相似,用戶可以在與對方視頻通話的過程中讓對方做一些大幅度動作,AI人說話時(shí)口型、面部表情可能會出現(xiàn)不同于常人的異常,而且在轉(zhuǎn)賬、資金來往的場景中,應(yīng)當(dāng)通過回?fù)茈娫?、其他渠道?lián)系本人等多種方式核實(shí)對方信息,在確認(rèn)無誤后再進(jìn)行交易。

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請聯(lián)系原著作權(quán)人。