文|IT時報(bào)記者 范昕茹
編輯|錢立富 孫妍
任何一項(xiàng)科技都有兩面性，在生成式AI快速發(fā)展的同時，對于其安全性的擔(dān)憂如影隨形，倒逼相關(guān)國家和地區(qū)加快立法進(jìn)程，為生成式AI健康發(fā)展筑起“護(hù)欄”。
今年6月，歐洲議會高票通過《人工智能法案》草案，意味著歐洲議會、歐盟成員國和歐盟委員會將開始“三方談判”，以確定法案的最終條款。美國也在積極探討AI監(jiān)管相關(guān)事宜。
視線回到國內(nèi)。今年4月，國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》。今年7月，完成修訂后的《生成式人工智能服務(wù)管理暫行辦法》（簡稱《辦法》）正式出臺，將于2023年8月15日起施行，這被認(rèn)為是全球首部生成式AI立法。《辦法》從技術(shù)發(fā)展與治理、服務(wù)規(guī)范、監(jiān)督檢查和法律責(zé)任等方面對生成式人工智能做出具體規(guī)定，為我國生成式AI今后發(fā)展定下基調(diào)。
業(yè)內(nèi)人士認(rèn)為，《辦法》出臺后，合規(guī)已經(jīng)成為大模型廠商的必選項(xiàng)?！掇k法》會給大模型廠商帶來哪些變化？《IT時報(bào)》記者詢問了騰訊、阿里云、百度等近十家大模型廠商，但他們都沒有給出正面回應(yīng)。
01、生成式AI有法可依
7月13日，完成修訂后的《生成式人工智能服務(wù)管理暫行辦法》正式出臺，將于2023年8月15日起施行。
對比3個月前發(fā)布的《生成式人工智能服務(wù)管理辦法(征求意見稿)》就可以發(fā)現(xiàn)，《辦法》做了較大改動。
比如，《辦法》新提出“堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合”的原則，主張包容審慎和分類分級監(jiān)管，將鼓勵條款從征求意見稿的一條擴(kuò)展到三條。
再比如，《辦法》不再強(qiáng)調(diào)利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，僅指出要提高生成內(nèi)容的準(zhǔn)確性和可靠性，尊重了大模型技術(shù)的新特點(diǎn)。
同時，《辦法》將必須要求用戶提供真實(shí)身份信息的要求變更為“生成式人工智能服務(wù)提供者應(yīng)當(dāng)與注冊其服務(wù)的服務(wù)使用者簽訂服務(wù)協(xié)議，明確雙方權(quán)利義務(wù)”，擴(kuò)大了服務(wù)空間等。
在不少行業(yè)人士看來，對互聯(lián)網(wǎng)行業(yè)來說，《辦法》相比4月份公布的征求意見稿有了很大的進(jìn)步?！斑@在一般的法規(guī)制定上，是不太常見的?！眳R業(yè)律師事務(wù)所律師史宇航認(rèn)為，《辦法》的改動，吸納了相關(guān)從業(yè)者的意見，表明國家在推動生成式AI發(fā)展方面的積極態(tài)度。
不過，《辦法》并沒有完全解釋行業(yè)關(guān)心的問題。史宇航指出，針對數(shù)據(jù)來源合法性如何認(rèn)定，對不得侵害他人依法享有的知識產(chǎn)權(quán)如何理解等問題，《辦法》并沒有給出詳細(xì)解釋，只能在后續(xù)司法、執(zhí)法實(shí)踐中去摸索，通過相關(guān)判例去明確方向。但在史宇航看來，《辦法》的出臺，至少讓國內(nèi)生成式AI廠商“有法可依”。
02、合規(guī)成為“必選項(xiàng)”
《辦法》的出臺，對于大模型廠商而言，將帶來哪些實(shí)際影響？
在史宇航看來，《辦法》的出臺，意味著技術(shù)將不再是決定大模型廠商發(fā)展的唯一因素，合規(guī)也將影響到企業(yè)的發(fā)展速度。而合規(guī)能力將直接決定生成式AI的產(chǎn)品、服務(wù)能走多遠(yuǎn)。
在最新出臺的《辦法》中，第十七條明確指出，提供具有輿論屬性或者社會動員能力的生成式人工智能服務(wù)，應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。也就是說，面向公眾的生成式AI想要投入使用，在絕大多數(shù)情況下都需要先過備案和安全評估關(guān)。
“這就要求企業(yè)提前考慮合規(guī)的問題。”史宇航解釋說，因?yàn)樯墒紸I的合規(guī)鏈條非常長，項(xiàng)目的立項(xiàng)、研發(fā)、測試、發(fā)布、更新、下架每一個環(huán)節(jié)都涉及大量的合規(guī)控制點(diǎn)以及多個備案、申請的關(guān)卡，涉及不同領(lǐng)域的法律法規(guī)。而在備案階段，企業(yè)就需要針對生成式AI涉及的各個流程提交合規(guī)證明。一家大模型初創(chuàng)團(tuán)隊(duì)人士就告訴記者，他們最近正是在研究《辦法》，并融入進(jìn)自家產(chǎn)品的設(shè)計(jì)中。
具體到企業(yè)內(nèi)部，合規(guī)帶來的改變將不僅僅停留在理論層面，而是涉及企業(yè)的方方面面。在史宇航看來，合規(guī)性的部署必然會觸動到企業(yè)底層機(jī)制和內(nèi)容的變化。從企業(yè)內(nèi)部的體系變革、崗位的設(shè)置到組織架構(gòu)的搭建，從產(chǎn)品設(shè)計(jì)、測試到研發(fā)布局，各環(huán)節(jié)都需要根據(jù)合規(guī)要求進(jìn)行調(diào)整?！肮镜牧鞒碳軜?gòu)必須做到健全，至少不能只單純考慮技術(shù)研發(fā)投入的問題?！笔酚詈秸f道。
但對一些企業(yè)而言，合規(guī)事宜可能會帶來新的問題。由于合規(guī)本身需要成本投入，對于一些資金并不充裕的公司而言，需要在研發(fā)和合規(guī)之間進(jìn)行權(quán)衡。史宇航說：“這可能會拖累企業(yè)研發(fā)的進(jìn)度?！?/p>
03、落地執(zhí)行面臨挑戰(zhàn)
對大部分大模型廠商而言，合規(guī)是他們最關(guān)心的一個問題，但目前來看，想要將新規(guī)落地仍然困難重重。
林暉（化名）最近就接到了幾家公司的合規(guī)方案訂單。
“我們也是被幾個客戶逼著做的?！毙乱?guī)發(fā)布后，應(yīng)客戶要求，林暉和團(tuán)隊(duì)開始拆解新規(guī)，根據(jù)客戶產(chǎn)品打造定制化的合規(guī)方案。
“指導(dǎo)意見并不代表標(biāo)準(zhǔn)答案?！绷謺煾嬖V記者，目前廠商在合規(guī)問題上遇到的最大困難就是缺乏具體的應(yīng)用場景細(xì)則?！掇k法》雖然搭好了框架，但仍屬于指導(dǎo)性的意見，無法涵蓋所有應(yīng)用場景，具體的邊界、尺度的把握仍需要企業(yè)根據(jù)自身的應(yīng)用場景去摸索?！斑@是一件微妙的事，比如你根據(jù)《辦法》制定了10條合規(guī)要求，那超出的部分如果出了問題，算不算違規(guī)？”林暉表示。
由于生成式AI合規(guī)不僅涉及法律法規(guī)，還涉及技術(shù)層面的操作，這也給合規(guī)方案的落地帶來了難度。在林暉看來，想要根據(jù)現(xiàn)有的法律法規(guī)推演出合適的方案，方案制定人需要在懂法、懂安全、懂技術(shù)架構(gòu)的同時，對公安、網(wǎng)安、網(wǎng)信、金融等所有監(jiān)管條例都特別清楚。只有如此，才能基于相關(guān)機(jī)構(gòu)的監(jiān)管習(xí)慣，去制定方案?！凹幢闳绱?，也不能保證制定的合規(guī)方案是正確的?！绷謺熣f。
而在具體的操作中，一個合規(guī)方案往往要包括產(chǎn)品合規(guī)、業(yè)務(wù)整改、隱私條款說明等內(nèi)容，定制化程度非常高，通常需要做到一企一案。
備案環(huán)節(jié)同樣存在模糊地帶。史宇航認(rèn)為，由于算法本身難以描述，在備案過程中，企業(yè)需要自行摸索描述算法及其安全性的邊界。而在合規(guī)性的審核上，往往采取企業(yè)自證的方式進(jìn)行，企業(yè)也需要根據(jù)自己的實(shí)際情況準(zhǔn)備材料。他說：“目前還沒有統(tǒng)一的標(biāo)準(zhǔn)，仍然需要企業(yè)自己去摸索?！?/p>
今年6月，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《關(guān)于發(fā)布深度合成服務(wù)算法備案信息的公告》，共有41個生成式AI完成備案，包括釘釘智能客服算法、達(dá)摩院開放域自然對話合成算法、百度文生圖內(nèi)容生成算法、騰訊會議虛擬背景算法、訊飛語音識別算法等。
不過，大多數(shù)大模型廠商對備案和合規(guī)的內(nèi)容仍諱莫如深?！禝T時報(bào)》記者嘗試采訪了騰訊、阿里云、百度等近十家大模型廠商，都沒有給出正面回應(yīng)。即便已經(jīng)通過相關(guān)備案，某大廠回應(yīng)稱，報(bào)備流程等方面還處于一個不可描述的階段，無法做正面回應(yīng)。
排版／ 季嘉穎
圖片／ 中國網(wǎng)信網(wǎng)
來源／《IT時報(bào)》公眾號vittimes