界面新聞記者 | 伍洋宇

界面新聞編輯 | 文姝琪

9月6日，在由界面新聞主辦的2024 REAL科技大會上，上海人工智能研究院總工程師王資凱發(fā)表了《前沿技術(shù)發(fā)展與治理路徑》主題演講。

上海人工智能研究院是由上海市政府和上海交通大學(xué)市校共建的新型研發(fā)機構(gòu)，成立于2019年世界人工智能大會。在過去發(fā)展的四五年歷程中，研究院已逐步形成全面的技術(shù)研發(fā)和產(chǎn)業(yè)轉(zhuǎn)化的能力，目前已孵化二十余家細(xì)分領(lǐng)域初創(chuàng)公司，整體估值超過100億人民幣。 

王資凱首先就新一代AI技術(shù)的科研與實際應(yīng)用的差別進(jìn)行了論述。例如，科研論文或報告更關(guān)注最佳性能SOTA，采用靜態(tài)數(shù)據(jù)和封閉問題集，公平性和可解釋性的重要程度不那么突出，而實際應(yīng)用則幾乎完全不同，產(chǎn)品的落地更注重比已有模型略好即可，其使用數(shù)據(jù)也在不斷變化，并且格外重視公平性和可解釋性。

這決定了科研與實際應(yīng)用的難點和亮點也大相徑庭?？蒲姓撐牡碾y度在于建模，即怎么把現(xiàn)實問題描繪成復(fù)雜的數(shù)學(xué)問題，而實際應(yīng)用更多討論的是復(fù)雜的工程實現(xiàn)。從亮點角度講，產(chǎn)品落地講究的是穩(wěn)定，科研論文則要突出精挑細(xì)選的結(jié)果。

在不斷推進(jìn)科研和實際應(yīng)用的同時，王資凱也指出了新一代AI技術(shù)自身尚存的缺陷。

他表示，當(dāng)前AI技術(shù)還存在多個問題，使其無法開箱即用，例如高質(zhì)量的訓(xùn)練數(shù)據(jù)、高昂的推理成本、龐大的算力需求、推理速度限制、無法滿足垂直領(lǐng)域安全性和可解釋性要求的黑盒體質(zhì)，以及幻覺導(dǎo)致的“亂講話”等。

這每一個缺陷的背后都對應(yīng)著巨大的技術(shù)和投資機遇。在應(yīng)對方法上，王資凱提出，行業(yè)可以針對不同場景和用戶需求打造不同的解決方案，例如制作產(chǎn)業(yè)數(shù)據(jù)集、產(chǎn)業(yè)領(lǐng)域細(xì)分垂類小模型，以模型即服務(wù)的商業(yè)模式服務(wù)小中型企業(yè)，針對細(xì)分領(lǐng)域去推測試集，做高性能的邊緣側(cè)推理設(shè)施，以及圍繞細(xì)分場景做可控生成和結(jié)合增強等等。

在推動技術(shù)發(fā)展的同時，技術(shù)監(jiān)管問題也不可避免。王資凱表示，這背后的根本原因是新一代AI技術(shù)帶來了許多爭議。他提到了去年發(fā)生在美國的一份針對微軟和OpenAI的集體訴訟，可能對整個世界范圍內(nèi)大模型的監(jiān)管和治理產(chǎn)生深遠(yuǎn)影響。

同時，他也提到了近期引起強烈爭議的美國加州“SB 1047法案”，也即“前沿人工智能模型安全創(chuàng)新法案”。

王資凱認(rèn)為，“SB 1047法案”可能成為人工智能治理的重要節(jié)點。該法案不僅提及了法律責(zé)任和“合理關(guān)懷”這一概念，也覆蓋系統(tǒng)安全與審查、監(jiān)管機制、法律框架與執(zhí)法、公眾和利益相關(guān)者的參與、未來可能出現(xiàn)的調(diào)整與更新等多個維度。

“我認(rèn)為加州的SB 1047法案提到了各種各樣的安全標(biāo)準(zhǔn)、風(fēng)險評估、測試程序，這套流程其實值得我們學(xué)習(xí)，這是中國和美國治理路徑的少許差異?！蓖踬Y凱說。

他就此回顧了中國在相關(guān)領(lǐng)域的技術(shù)監(jiān)管進(jìn)程。從2023年4月網(wǎng)信辦發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見稿）》，到2023年7月國家網(wǎng)信辦聯(lián)同國家發(fā)改委、教育部、科技部、工信部、公安部、廣電總局共同發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》，王資凱認(rèn)為中國在該領(lǐng)域的監(jiān)管辦法質(zhì)量有了很高的提升，“我認(rèn)為這部立法是中國甚至世界人工智能治理節(jié)點性的事件。”

他也由此比較了中美在大模型治理領(lǐng)域面臨的差異，包括網(wǎng)絡(luò)速度和覆蓋范圍、數(shù)據(jù)中心規(guī)模、網(wǎng)絡(luò)安全和隱私保護(hù)、能源價格以及用戶習(xí)慣等。他具體提到，中國有非常強大的4G和5G能力，能源價格的差異會牽扯到訓(xùn)練和推理成本，國內(nèi)企業(yè)的SaaS習(xí)慣也還有所欠缺，這些差異或?qū)?dǎo)致中美人工智能落地路徑和環(huán)境的不一致。

面向中美在新一代AI技術(shù)上的未來競爭，王資凱認(rèn)為上海和長三角在人才、科研產(chǎn)出以及產(chǎn)業(yè)鏈方面都具備獨特優(yōu)勢。

如果以上海為中心，以200公里為半徑畫一個圓圈，范圍內(nèi)有至少15家世界排名前500的學(xué)校，對應(yīng)整體長三角范圍內(nèi)的人口達(dá)到2.3億，每年可能為市場供給至少上萬名人工智能專業(yè)相關(guān)的畢業(yè)生，這是非常強的人才動力。相比之下，美國灣區(qū)只有不到800萬人，人才供給并沒有長三角旺盛，不過美國的移民機制每年會幫助它吸引大量人才。

王資凱最后總結(jié)到，新一代AI技術(shù)的治理需要各個國家的探索和判例，面向未來。上海和長三角既具備豐富的場景和機遇，同時也會在各種實際案例中存在挑戰(zhàn)。