文|IT時(shí)報(bào)記者  范昕茹

編輯|錢(qián)立富  孫妍

任何一項(xiàng)科技都有兩面性，在生成式AI快速發(fā)展的同時(shí)，對(duì)于其安全性的擔(dān)憂如影隨形，倒逼相關(guān)國(guó)家和地區(qū)加快立法進(jìn)程，為生成式AI健康發(fā)展筑起“護(hù)欄”。

今年6月，歐洲議會(huì)高票通過(guò)《人工智能法案》草案，意味著歐洲議會(huì)、歐盟成員國(guó)和歐盟委員會(huì)將開(kāi)始“三方談判”，以確定法案的最終條款。美國(guó)也在積極探討AI監(jiān)管相關(guān)事宜。

視線回到國(guó)內(nèi)。今年4月，國(guó)家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》。今年7月，完成修訂后的《生成式人工智能服務(wù)管理暫行辦法》（簡(jiǎn)稱《辦法》）正式出臺(tái)，將于2023年8月15日起施行，這被認(rèn)為是全球首部生成式AI立法。《辦法》從技術(shù)發(fā)展與治理、服務(wù)規(guī)范、監(jiān)督檢查和法律責(zé)任等方面對(duì)生成式人工智能做出具體規(guī)定，為我國(guó)生成式AI今后發(fā)展定下基調(diào)。

業(yè)內(nèi)人士認(rèn)為，《辦法》出臺(tái)后，合規(guī)已經(jīng)成為大模型廠商的必選項(xiàng)?！掇k法》會(huì)給大模型廠商帶來(lái)哪些變化？《IT時(shí)報(bào)》記者詢問(wèn)了騰訊、阿里云、百度等近十家大模型廠商，但他們都沒(méi)有給出正面回應(yīng)。

01、生成式AI有法可依

7月13日，完成修訂后的《生成式人工智能服務(wù)管理暫行辦法》正式出臺(tái)，將于2023年8月15日起施行。

對(duì)比3個(gè)月前發(fā)布的《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》就可以發(fā)現(xiàn)，《辦法》做了較大改動(dòng)。

比如，《辦法》新提出“堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合”的原則，主張包容審慎和分類分級(jí)監(jiān)管，將鼓勵(lì)條款從征求意見(jiàn)稿的一條擴(kuò)展到三條。

再比如，《辦法》不再?gòu)?qiáng)調(diào)利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，僅指出要提高生成內(nèi)容的準(zhǔn)確性和可靠性，尊重了大模型技術(shù)的新特點(diǎn)。

同時(shí)，《辦法》將必須要求用戶提供真實(shí)身份信息的要求變更為“生成式人工智能服務(wù)提供者應(yīng)當(dāng)與注冊(cè)其服務(wù)的服務(wù)使用者簽訂服務(wù)協(xié)議，明確雙方權(quán)利義務(wù)”，擴(kuò)大了服務(wù)空間等。

在不少行業(yè)人士看來(lái)，對(duì)互聯(lián)網(wǎng)行業(yè)來(lái)說(shuō)，《辦法》相比4月份公布的征求意見(jiàn)稿有了很大的進(jìn)步?！斑@在一般的法規(guī)制定上，是不太常見(jiàn)的。”匯業(yè)律師事務(wù)所律師史宇航認(rèn)為，《辦法》的改動(dòng)，吸納了相關(guān)從業(yè)者的意見(jiàn)，表明國(guó)家在推動(dòng)生成式AI發(fā)展方面的積極態(tài)度。

不過(guò)，《辦法》并沒(méi)有完全解釋行業(yè)關(guān)心的問(wèn)題。史宇航指出，針對(duì)數(shù)據(jù)來(lái)源合法性如何認(rèn)定，對(duì)不得侵害他人依法享有的知識(shí)產(chǎn)權(quán)如何理解等問(wèn)題，《辦法》并沒(méi)有給出詳細(xì)解釋，只能在后續(xù)司法、執(zhí)法實(shí)踐中去摸索，通過(guò)相關(guān)判例去明確方向。但在史宇航看來(lái)，《辦法》的出臺(tái)，至少讓國(guó)內(nèi)生成式AI廠商“有法可依”。

02、合規(guī)成為“必選項(xiàng)”

《辦法》的出臺(tái)，對(duì)于大模型廠商而言，將帶來(lái)哪些實(shí)際影響？

在史宇航看來(lái)，《辦法》的出臺(tái)，意味著技術(shù)將不再是決定大模型廠商發(fā)展的唯一因素，合規(guī)也將影響到企業(yè)的發(fā)展速度。而合規(guī)能力將直接決定生成式AI的產(chǎn)品、服務(wù)能走多遠(yuǎn)。

在最新出臺(tái)的《辦法》中，第十七條明確指出，提供具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)，應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開(kāi)展安全評(píng)估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷(xiāo)備案手續(xù)。也就是說(shuō)，面向公眾的生成式AI想要投入使用，在絕大多數(shù)情況下都需要先過(guò)備案和安全評(píng)估關(guān)。

“這就要求企業(yè)提前考慮合規(guī)的問(wèn)題?！笔酚詈浇忉屨f(shuō)，因?yàn)樯墒紸I的合規(guī)鏈條非常長(zhǎng)，項(xiàng)目的立項(xiàng)、研發(fā)、測(cè)試、發(fā)布、更新、下架每一個(gè)環(huán)節(jié)都涉及大量的合規(guī)控制點(diǎn)以及多個(gè)備案、申請(qǐng)的關(guān)卡，涉及不同領(lǐng)域的法律法規(guī)。而在備案階段，企業(yè)就需要針對(duì)生成式AI涉及的各個(gè)流程提交合規(guī)證明。一家大模型初創(chuàng)團(tuán)隊(duì)人士就告訴記者，他們最近正是在研究《辦法》，并融入進(jìn)自家產(chǎn)品的設(shè)計(jì)中。

具體到企業(yè)內(nèi)部，合規(guī)帶來(lái)的改變將不僅僅停留在理論層面，而是涉及企業(yè)的方方面面。在史宇航看來(lái)，合規(guī)性的部署必然會(huì)觸動(dòng)到企業(yè)底層機(jī)制和內(nèi)容的變化。從企業(yè)內(nèi)部的體系變革、崗位的設(shè)置到組織架構(gòu)的搭建，從產(chǎn)品設(shè)計(jì)、測(cè)試到研發(fā)布局，各環(huán)節(jié)都需要根據(jù)合規(guī)要求進(jìn)行調(diào)整?！肮镜牧鞒碳軜?gòu)必須做到健全，至少不能只單純考慮技術(shù)研發(fā)投入的問(wèn)題?！笔酚詈秸f(shuō)道。

但對(duì)一些企業(yè)而言，合規(guī)事宜可能會(huì)帶來(lái)新的問(wèn)題。由于合規(guī)本身需要成本投入，對(duì)于一些資金并不充裕的公司而言，需要在研發(fā)和合規(guī)之間進(jìn)行權(quán)衡。史宇航說(shuō)：“這可能會(huì)拖累企業(yè)研發(fā)的進(jìn)度?！?/p>

03、落地執(zhí)行面臨挑戰(zhàn)

對(duì)大部分大模型廠商而言，合規(guī)是他們最關(guān)心的一個(gè)問(wèn)題，但目前來(lái)看，想要將新規(guī)落地仍然困難重重。

林暉（化名）最近就接到了幾家公司的合規(guī)方案訂單。

“我們也是被幾個(gè)客戶逼著做的。”新規(guī)發(fā)布后，應(yīng)客戶要求，林暉和團(tuán)隊(duì)開(kāi)始拆解新規(guī)，根據(jù)客戶產(chǎn)品打造定制化的合規(guī)方案。

“指導(dǎo)意見(jiàn)并不代表標(biāo)準(zhǔn)答案。”林暉告訴記者，目前廠商在合規(guī)問(wèn)題上遇到的最大困難就是缺乏具體的應(yīng)用場(chǎng)景細(xì)則。《辦法》雖然搭好了框架，但仍屬于指導(dǎo)性的意見(jiàn)，無(wú)法涵蓋所有應(yīng)用場(chǎng)景，具體的邊界、尺度的把握仍需要企業(yè)根據(jù)自身的應(yīng)用場(chǎng)景去摸索?！斑@是一件微妙的事，比如你根據(jù)《辦法》制定了10條合規(guī)要求，那超出的部分如果出了問(wèn)題，算不算違規(guī)？”林暉表示。

由于生成式AI合規(guī)不僅涉及法律法規(guī)，還涉及技術(shù)層面的操作，這也給合規(guī)方案的落地帶來(lái)了難度。在林暉看來(lái)，想要根據(jù)現(xiàn)有的法律法規(guī)推演出合適的方案，方案制定人需要在懂法、懂安全、懂技術(shù)架構(gòu)的同時(shí)，對(duì)公安、網(wǎng)安、網(wǎng)信、金融等所有監(jiān)管條例都特別清楚。只有如此，才能基于相關(guān)機(jī)構(gòu)的監(jiān)管習(xí)慣，去制定方案?！凹幢闳绱?，也不能保證制定的合規(guī)方案是正確的?！绷謺熣f(shuō)。

而在具體的操作中，一個(gè)合規(guī)方案往往要包括產(chǎn)品合規(guī)、業(yè)務(wù)整改、隱私條款說(shuō)明等內(nèi)容，定制化程度非常高，通常需要做到一企一案。

備案環(huán)節(jié)同樣存在模糊地帶。史宇航認(rèn)為，由于算法本身難以描述，在備案過(guò)程中，企業(yè)需要自行摸索描述算法及其安全性的邊界。而在合規(guī)性的審核上，往往采取企業(yè)自證的方式進(jìn)行，企業(yè)也需要根據(jù)自己的實(shí)際情況準(zhǔn)備材料。他說(shuō)：“目前還沒(méi)有統(tǒng)一的標(biāo)準(zhǔn)，仍然需要企業(yè)自己去摸索?！?/p>

今年6月，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布《關(guān)于發(fā)布深度合成服務(wù)算法備案信息的公告》，共有41個(gè)生成式AI完成備案，包括釘釘智能客服算法、達(dá)摩院開(kāi)放域自然對(duì)話合成算法、百度文生圖內(nèi)容生成算法、騰訊會(huì)議虛擬背景算法、訊飛語(yǔ)音識(shí)別算法等。

不過(guò)，大多數(shù)大模型廠商對(duì)備案和合規(guī)的內(nèi)容仍諱莫如深?！禝T時(shí)報(bào)》記者嘗試采訪了騰訊、阿里云、百度等近十家大模型廠商，都沒(méi)有給出正面回應(yīng)。即便已經(jīng)通過(guò)相關(guān)備案，某大廠回應(yīng)稱，報(bào)備流程等方面還處于一個(gè)不可描述的階段，無(wú)法做正面回應(yīng)。

排版／ 季嘉穎

圖片／ 中國(guó)網(wǎng)信網(wǎng) 

來(lái)源／《IT時(shí)報(bào)》公眾號(hào)vittimes