記者 | 安晶
編輯｜劉海川
2023年6月，支持美國(guó)共和黨新星、佛羅里達(dá)州州長(zhǎng)羅恩·德桑蒂斯的團(tuán)隊(duì)在X平臺(tái)發(fā)布了一段與前總統(tǒng)唐納德·特朗普有關(guān)的視頻。當(dāng)時(shí)德桑蒂斯剛宣布參加2024年美國(guó)大選，是特朗普在共和黨內(nèi)的最大競(jìng)爭(zhēng)對(duì)手。
這段視頻混剪了特朗普在參加真人秀時(shí)期的“你被炒了”片段，與特朗普任總統(tǒng)時(shí)對(duì)美國(guó)國(guó)家過(guò)敏癥和傳染病研究所所長(zhǎng)安東尼·福奇的態(tài)度做對(duì)比。
新冠疫情剛開(kāi)始時(shí)，福奇是白宮高級(jí)衛(wèi)生顧問(wèn)，他也成為反疫苗運(yùn)動(dòng)和右翼保守派的攻擊對(duì)象。雖然與福奇不和，但特朗普多次接受媒體采訪時(shí)均表示不會(huì)解雇福奇。
德桑蒂斯的團(tuán)隊(duì)在視頻中使用了特朗普接受采訪時(shí)的音頻配以福奇的照片。視頻中有一幀是特朗普與福奇的合影錦集，錦集中有三張照片顯示特朗普擁抱福奇、親吻福奇的額頭，意圖說(shuō)明特朗普與保守派厭惡的福奇關(guān)系密切。
但法國(guó)媒體隨后發(fā)現(xiàn)，特朗普與福奇擁抱的三張照片均為AI生成的假照片。類似的事情也出現(xiàn)在歐洲的選舉中。
去年9月底，斯洛伐克舉行國(guó)民議會(huì)選舉。在投票開(kāi)始前，F(xiàn)acebook上流出一段音頻，音頻中聽(tīng)上去是進(jìn)步斯洛伐克黨主席米哈爾·希梅奇卡的男子與一家主流報(bào)社的工作人員討論如何用錢(qián)來(lái)買選票。
音頻發(fā)布的時(shí)間正好是在投票前的48小時(shí)噤聲期內(nèi)，政客不得再就選舉發(fā)聲。在最終投票中，希梅奇卡所在的進(jìn)步斯洛伐克黨輸給了左翼政黨方向黨。方向黨反對(duì)向?yàn)蹩颂m提供軍事援助，進(jìn)步斯洛伐克黨則是親歐盟的自由派政黨。
事后，F(xiàn)acebook上流出的音頻被認(rèn)定有AI生成的痕跡。而Facebook主要禁止發(fā)布深度偽造視頻，并沒(méi)有對(duì)音頻做出相應(yīng)要求。深度偽造是指利用深度學(xué)習(xí)算法來(lái)制作音頻、視頻、圖像，呈現(xiàn)相關(guān)人員從未說(shuō)過(guò)和做過(guò)的事，或者創(chuàng)造從未存在過(guò)的人。
2024年是大選之年，全球50多個(gè)國(guó)家將舉行選舉，參選人用AI深度偽造內(nèi)容攻擊政治對(duì)手、利益團(tuán)體用偽造內(nèi)容左右選民投票、信息真假難辨影響選民對(duì)選舉的信任度成為各國(guó)的新?lián)鷳n。
在AI立法上走在全球前列的歐盟再次出手，準(zhǔn)備趕在6月的歐洲議會(huì)選舉前對(duì)深度偽造進(jìn)行管控。
當(dāng)?shù)貢r(shí)間3月14日，歐盟委員會(huì)正式向Bing、Google、Facebook、TikTok,、YouTube、X等8家平臺(tái)發(fā)出通知，要求各平臺(tái)說(shuō)明其采取了哪些措施以降低與生成式AI有關(guān)的風(fēng)險(xiǎn) 。相關(guān)風(fēng)險(xiǎn)包括AI“幻覺(jué)”也就是AI制造虛假信息、深度偽造的病毒式傳播以及能誤導(dǎo)選民的自動(dòng)化處理。
針對(duì)生成式AI對(duì)選舉進(jìn)程、傳播非法信息、保護(hù)個(gè)人數(shù)據(jù)、保護(hù)未成年人等領(lǐng)域的影響，歐盟委員會(huì)還要求各平臺(tái)提供內(nèi)部資料，資料內(nèi)容包括風(fēng)險(xiǎn)評(píng)估和應(yīng)對(duì)措施。
委員會(huì)要求各平臺(tái)在4月5日結(jié)束前提交與保護(hù)選舉有關(guān)的資料，其余資料提交截止日為4月26日，不按時(shí)做出回應(yīng)的平臺(tái)可能遭到歐盟委員會(huì)罰款。
歐盟委員會(huì)此次發(fā)出的通知是基于已經(jīng)生效的《數(shù)字服務(wù)法》。該法案涉及對(duì)數(shù)字平臺(tái)的監(jiān)管，并非專門(mén)針對(duì)AI。本周三，歐洲議會(huì)正式投票批準(zhǔn)了歐盟的《人工智能法案》，該法案也是全球首部AI法。
歐盟的AI法案中有專門(mén)針對(duì)深度偽造的監(jiān)管。法案第52條規(guī)定，如果AI系統(tǒng)生成或處理的圖像、音頻、視頻內(nèi)容構(gòu)成深度偽造，則系統(tǒng)開(kāi)發(fā)方應(yīng)披露相關(guān)內(nèi)容為AI生成或處理。只有在相關(guān)AI應(yīng)用與調(diào)查刑事犯罪有關(guān)或者進(jìn)行文藝創(chuàng)作時(shí)，開(kāi)發(fā)方才無(wú)需嚴(yán)格披露。
該法條還對(duì)AI文本生成做出了規(guī)定。如果AI系統(tǒng)生成或處理的文本是為了讓公眾知曉與公共利益有關(guān)的信息，則開(kāi)發(fā)方應(yīng)披露相關(guān)文本為AI生成或處理。但如果AI生成的相關(guān)文本經(jīng)過(guò)人類檢查或編輯，并且有自然人或法人對(duì)內(nèi)容發(fā)布承擔(dān)編輯責(zé)任，則無(wú)需披露文本為AI生成。
雖然對(duì)深度偽造進(jìn)行了約束，但歐盟的首部AI法案還在進(jìn)行最后的法律術(shù)語(yǔ)檢查，只有在歐盟官方公報(bào)上公布后20天才能正式生效。法案執(zhí)行的時(shí)間則根據(jù)內(nèi)容各有不同，部分內(nèi)容為生效6個(gè)月后執(zhí)行，部分為12個(gè)月。這也意味著，今年的歐洲議會(huì)選舉前，歐盟的AI法將無(wú)法發(fā)揮作用。
在總統(tǒng)大選已經(jīng)拉開(kāi)帷幕的美國(guó)，今年以來(lái)AI深度偽造已多次攪局：新罕布什爾州初選前，AI偽造的約瑟夫·拜登音頻通過(guò)電話呼吁選民不要參加初選投票，把選票留到11月的最終對(duì)決；AI偽造的照片顯示特朗普曾搭乘杰弗里·愛(ài)潑斯坦的飛機(jī)前往“蘿莉島”，愛(ài)潑斯坦被控組織未成年少女從事性交易。
“蘿莉島”照片事件后，特朗普憤怒發(fā)聲，警告AI將在未來(lái)成為一個(gè)大危險(xiǎn)，呼吁制定“強(qiáng)有力的法律”監(jiān)管AI。
但在美國(guó)聯(lián)邦層面，距離出臺(tái)全國(guó)實(shí)施的AI法還非常遙遠(yuǎn)。今年2月，也就是美國(guó)大選初選已經(jīng)開(kāi)始后，美國(guó)眾議院才宣布成立跨黨派工作組研究針對(duì)AI的立法。
對(duì)于大選中已經(jīng)出現(xiàn)的深度偽造問(wèn)題，目前美國(guó)的處理辦法是由聯(lián)邦通信委員會(huì)依照具體情況頒禁令。上月，美國(guó)聯(lián)邦通信委員會(huì)宣布禁止用AI生成的聲音撥打自動(dòng)語(yǔ)音電話，明確該行為違反1991年的《電話消費(fèi)者保護(hù)法》。
美國(guó)消費(fèi)者權(quán)益組織Public Citizen去年向聯(lián)邦通信委員會(huì)發(fā)起申訴，要求委員會(huì)修改規(guī)章，明確故意使用AI生成內(nèi)容歪曲競(jìng)選候選人或政黨立場(chǎng)的行為是違法行為。聯(lián)邦通信委員會(huì)接收了申訴，但還沒(méi)有做出決定。
相比聯(lián)邦機(jī)構(gòu)，美國(guó)各州對(duì)在州范圍內(nèi)制定AI法更為積極。
Public Citizen統(tǒng)計(jì)顯示目前美國(guó)有43個(gè)州提出了70項(xiàng)法案限制AI在選舉中的使用，這70項(xiàng)法案中有7項(xiàng)已生效。在密歇根州，去年11月生效的法案禁止個(gè)人在選舉前90天內(nèi)發(fā)布破壞候選人名譽(yù)、扭曲候選人立場(chǎng)、試圖影響選民行為的AI生成深度偽造內(nèi)容。
但這70項(xiàng)法案中有至少30項(xiàng)是今年才提出，從州議會(huì)討論到正式投票還需經(jīng)過(guò)漫長(zhǎng)的過(guò)程。深度偽造在今年的美國(guó)大選已無(wú)法避免，未知數(shù)僅在于這些偽造內(nèi)容將對(duì)選民產(chǎn)生多大影響。