文|創(chuàng)瞰巴黎 Jean Zeid
編輯|Meister Xia
導(dǎo)讀
去年年底，由ChatGPT掀起了新一輪人工智能的熱潮還在持續(xù)。以生成式人工智能和大模型為代表的新一代智能技術(shù)發(fā)展日新月異，成為本輪世界科技革命和產(chǎn)業(yè)變革的先導(dǎo)力量。隨著以ChatGPT為代表的大模型進(jìn)入應(yīng)用，AI的重要性愈發(fā)凸顯。但是，發(fā)展的同時(shí)會(huì)帶來新的安全問題。是否需要對(duì)AI發(fā)展制定相應(yīng)的法規(guī)進(jìn)行監(jiān)管？應(yīng)該采取什么方法來監(jiān)管AI？AI監(jiān)管應(yīng)該關(guān)注哪些方面的問題？
一覽：
- AI的應(yīng)用范圍在不斷擴(kuò)大，其管理問題引發(fā)了人們的諸多擔(dān)憂。
- 盡管AI的發(fā)展日新月異，但歐洲目前還未推出專門針對(duì)AI的法規(guī)。
- 歐洲議會(huì)已投票支持通過《人工智能法》——一項(xiàng)針對(duì)AI的法規(guī)。
- AI的使用和快速發(fā)展引發(fā)了人們對(duì)安全、透明度和自動(dòng)化等重大問題的探討。
- 為了解決這些問題，法國國家信息與自由委員會(huì)（CNIL）成立了一個(gè)跨學(xué)科部門，專門負(fù)責(zé)AI相關(guān)事務(wù)。
生成式人工智能產(chǎn)業(yè)正在蓬勃發(fā)展。據(jù)彭博社（Bloomberg）報(bào)道，到 2032年，該產(chǎn)業(yè)的市值有望達(dá)到1.3萬億美元。但是，生成式AI的指數(shù)型增長(zhǎng)在世界范圍內(nèi)引發(fā)了不少擔(dān)憂，人們對(duì)其安全和立法問題也提出了不少疑問。面對(duì)這一不斷增長(zhǎng)的市場(chǎng)，微軟、谷歌、OpenAI和初創(chuàng)公司Anthropic這四家美國AI巨頭正在聯(lián)手進(jìn)行自我監(jiān)管，以平息日益增多的質(zhì)疑聲。歐洲正在考慮制定相關(guān)法規(guī)，英國首相蘇納克（Rishi Sunak）也在不久前宣布，將于今年年底在英國舉辦全球首次AI峰會(huì)。
由于AI的重要性愈發(fā)凸顯，法國國家信息與自由委員會(huì)（CNIL）史無前例地成立了一個(gè)AI監(jiān)管部門。在部門主任Félicien Vallet的領(lǐng)導(dǎo)下，該機(jī)構(gòu)正努力對(duì)安全、透明度和自動(dòng)化等重大問題提供監(jiān)管。
01 為什么CNIL認(rèn)為有必要成立一個(gè)專門負(fù)責(zé)AI的新部門？
自1978年成立以來，CNIL這一監(jiān)管部門始終負(fù)責(zé)法國境內(nèi)的數(shù)據(jù)保護(hù)。2018年后，相關(guān)數(shù)據(jù)保護(hù)一直以通用數(shù)據(jù)保護(hù)條例（GDPR）為參考。最近，各大領(lǐng)域都出現(xiàn)了與AI相關(guān)的個(gè)人數(shù)據(jù)問題，且數(shù)量在不斷上漲。CNIL的一貫做法是以部門為基礎(chǔ)開展相關(guān)工作，例如，我們會(huì)設(shè)置專門負(fù)責(zé)衛(wèi)生或政府事務(wù)的部門。我們的觀察顯示，AI正越來越多地應(yīng)用于多種領(lǐng)域，包括：打擊房產(chǎn)稅偷稅漏稅（如基于衛(wèi)星圖像的住宅游泳池自動(dòng)檢測(cè)）、安保（如能分析人類行為的增強(qiáng)型視頻監(jiān)控系統(tǒng)）、醫(yī)療保健（如輔助診斷）和教育（如基于學(xué)習(xí)習(xí)慣分析的教學(xué)模式個(gè)性化）等領(lǐng)域。作為個(gè)人數(shù)據(jù)處理的監(jiān)管機(jī)構(gòu)，法國國家信息與自由委員會(huì)（CNIL）特別關(guān)注可能對(duì)公民產(chǎn)生影響的AI應(yīng)用。之所以設(shè)立一個(gè)專門負(fù)責(zé)AI的多學(xué)科部門，是因?yàn)樵擃I(lǐng)域所涉及的問題具有跨學(xué)科性質(zhì)。
02 CNIL對(duì)AI的定義是什么？是我們現(xiàn)在常說的生成式AI嗎？
CNIL對(duì)AI并沒有嚴(yán)格的定義。根據(jù)我們發(fā)布在網(wǎng)站上的描述，AI指的是一種邏輯和自動(dòng)化過程，通常以算法為基礎(chǔ)，并以執(zhí)行定義明確的任務(wù)為目的。歐洲議會(huì)將AI定義為機(jī)器用來“再現(xiàn)與人類相關(guān)的行為，如推理、規(guī)劃和創(chuàng)造力”的工具。生成式AI是現(xiàn)有AI系統(tǒng)的一個(gè)組成部分，但它也會(huì)引發(fā)人們對(duì)個(gè)人數(shù)據(jù)使用的擔(dān)憂。
03 CNIL采取了什么方法來監(jiān)管AI？
CNIL采用了一種基于風(fēng)險(xiǎn)的方法。這一方法是歐盟正在起草的《人工智能法》（AI Act）的核心，它根據(jù)風(fēng)險(xiǎn)等級(jí)將AI系統(tǒng)分為了四類：不可接受、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)和最低風(fēng)險(xiǎn)。由于監(jiān)管對(duì)“不可接受”這一等級(jí)的AI系統(tǒng)根本不予考慮，因此完全沒有在歐洲本土實(shí)施。高風(fēng)險(xiǎn)系統(tǒng)通常部署在醫(yī)療保健或政府事務(wù)等領(lǐng)域，由于它們總是牽涉到個(gè)人數(shù)據(jù)的處理，與個(gè)人的發(fā)展息息相關(guān)，因此格外敏感。在部署這些AI系統(tǒng)之前，也會(huì)采取一些特別的預(yù)防措施。生成式AI屬于有限風(fēng)險(xiǎn)系統(tǒng)，需要為用戶提供更大的透明度。低風(fēng)險(xiǎn)系統(tǒng)則不受任何特定義務(wù)的約束。
04 圍繞這些AI系統(tǒng)的主要問題是什么？
主要問題是透明度、自動(dòng)化和安全性。有了透明度，人們才會(huì)明白AI系統(tǒng)在處理與其相關(guān)的個(gè)人數(shù)據(jù)，并且自己擁有一定的反對(duì)權(quán)。這些系統(tǒng)處理的信息體量可能十分龐大，而并非所有人都知曉這一點(diǎn)。
自動(dòng)化也絕非萬無一失，即便有人類操作員的參與，過度信任機(jī)器等認(rèn)知偏差也會(huì)影響決策，因此，我們需要對(duì)操作員的控制方法，以及操作員在決策環(huán)路中扮演的角色保持警惕。
AI系統(tǒng)的安全性是另一個(gè)主要擔(dān)憂。與其他IT系統(tǒng)一樣，AI系統(tǒng)也可能成為網(wǎng)絡(luò)攻擊的對(duì)象，特別是訪問劫持或數(shù)據(jù)盜竊。此外，它們還可能被惡意利用，如開展網(wǎng)絡(luò)釣魚活動(dòng)或大規(guī)模傳播虛假信息等。
05 有沒有什么方法能夠確保這些法規(guī)的實(shí)施？
我們的行動(dòng)計(jì)劃主要圍繞四點(diǎn)展開。首先是了解AI技術(shù)，畢竟該領(lǐng)域日新月異，每天都會(huì)迸發(fā)源源不斷的創(chuàng)新和靈感，技術(shù)也在突飛猛進(jìn)。
第二是引導(dǎo)AI的使用。之前也說了，我們主要以《通用數(shù)據(jù)保護(hù)條例》（GDPR）為參考，但該文件比較中立，并沒有具體規(guī)定在AI時(shí)代下應(yīng)如何處理個(gè)人數(shù)據(jù)。因此，我們需要根據(jù)AI的不同技術(shù)路徑和用途來調(diào)整GDPR的一般原則，從而為專業(yè)人員提供有效的指導(dǎo)。
第三點(diǎn)是與我們的歐洲同行、權(quán)利捍衛(wèi)者（Défenseur des droits）、法國競(jìng)爭(zhēng)管理機(jī)構(gòu)（Autorité de la concurrence）及研究機(jī)構(gòu)開展互動(dòng)與合作，以解決與歧視、競(jìng)爭(zhēng)和創(chuàng)新有關(guān)的問題，并動(dòng)員各方廣泛參與這些問題的解決。
最后，我們需要在AI系統(tǒng)實(shí)施前后部署管控措施，并探索能夠助力我們執(zhí)行管控的方法，如制定核對(duì)清單，使用自我評(píng)估指南等。
06 法國或其他國家有其他類似的項(xiàng)目嗎？
目前，無論是法國、歐洲境內(nèi)還是其他地區(qū)，都沒有專門針對(duì)AI的法規(guī)，歐洲的《人工智能法》草案將是這一領(lǐng)域的首創(chuàng)。不過，與GDPR類似的通用法規(guī)可以間接適用于AI，且某些特定行業(yè)與產(chǎn)品安全相關(guān)的法規(guī)也可能適用于包含AI的產(chǎn)品，如醫(yī)療設(shè)備。
07 歐美的法規(guī)差異是否會(huì)在AI領(lǐng)域表現(xiàn)得更加明顯？
根據(jù)以往的經(jīng)驗(yàn)，歐洲在數(shù)字技術(shù)的法規(guī)實(shí)施方面一直比較積極主動(dòng)，GDPR的頒布便是有力證明。不過，美國對(duì)AI監(jiān)管的呼聲也越來越高。例如，OpenAI的首席執(zhí)行官明確告訴美國國會(huì)，對(duì)AI進(jìn)行監(jiān)管將帶來諸多益處。話雖如此，我們也不應(yīng)忘記，美國技術(shù)高管眼中的“適當(dāng)監(jiān)管”與歐洲的設(shè)想可能不盡相同。為了給《人工智能法》的通過做鋪墊，并盡量爭(zhēng)取主要工業(yè)企業(yè)的支持，歐委會(huì)委員Margrethe Vestager（負(fù)責(zé)競(jìng)爭(zhēng)事務(wù)）和Thierry Breton（負(fù)責(zé)內(nèi)部市場(chǎng)事務(wù)）分別提出了《人工智能行為準(zhǔn)則》（AI Code of Conduct）和《人工智能契約》（AI Pact）。