界面新聞?dòng)浾?| 何柳穎
界面新聞編輯 | 江怡曼
9月6日，由界面新聞主辦的2024REAL科技大會(huì)在上海順利舉辦，本次大會(huì)主題為“大模型落地，重塑現(xiàn)實(shí)場(chǎng)景”。
近年來(lái)，金融科技加速發(fā)展，金融+大模型成為了行業(yè)趨勢(shì)。目前在技術(shù)與實(shí)踐層面，各大金融機(jī)構(gòu)進(jìn)行了哪些嘗試？迎來(lái)了哪些挑戰(zhàn)？相關(guān)監(jiān)管配套是否完善？
在由寧波銀行贊助呈現(xiàn)的“金融大模型的進(jìn)階之路”圓桌討論會(huì)上，江蘇蘇商銀行股份有限公司副行長(zhǎng)黃進(jìn)、眾邦銀行首席信息官李耀、招聯(lián)消費(fèi)金融股份有限公司首席信息官王耀南、眾源資本高級(jí)投資副總裁冉翀、螞蟻集團(tuán)金融AI首席架構(gòu)師徐萬(wàn)青等與會(huì)嘉賓們就以上話(huà)題進(jìn)行了熱切討論。
（“金融大模型的進(jìn)階之路”圓桌討論會(huì)現(xiàn)場(chǎng)）
應(yīng)用場(chǎng)景多方面突破
“銀行已經(jīng)進(jìn)入5.0時(shí)代，銀行所有的業(yè)務(wù)模式都值得用AI重新思考一遍。” 李耀強(qiáng)調(diào)AI對(duì)于銀行的重要性。
起步之際，銀行+大模型多集中于人工客服、資料庫(kù)等基礎(chǔ)層面，如今伴隨技術(shù)的迭代與新需求的涌現(xiàn)，應(yīng)用場(chǎng)景實(shí)現(xiàn)了多方面突破。
黃進(jìn)介紹，目前銀行主要基于大模型的生成能力，在兩個(gè)核心的業(yè)務(wù)領(lǐng)域——產(chǎn)業(yè)鏈金融和科創(chuàng)金融，輔助生成相關(guān)的盡調(diào)報(bào)告。“我們也會(huì)基于自身的信貸語(yǔ)料庫(kù)，以及行內(nèi)整合的非結(jié)構(gòu)化數(shù)據(jù)，將大模型的分析能力應(yīng)用在O2O的信貸審批環(huán)節(jié)，應(yīng)用場(chǎng)景包括信貸客戶(hù)的KYC以及部分貸后管理環(huán)節(jié)。”
基于大模型能力，螞蟻集團(tuán)于去年發(fā)布了智能業(yè)務(wù)助手“支小助”。 徐萬(wàn)青介紹，經(jīng)過(guò)一整年的打磨和培養(yǎng)，現(xiàn)在“支小助”已經(jīng)升級(jí)到2.0版本，并落地在銷(xiāo)售、理賠、財(cái)務(wù)寫(xiě)作，營(yíng)銷(xiāo)創(chuàng)意等多個(gè)場(chǎng)景。他稱(chēng)，規(guī)模化的落地驗(yàn)證了支小助2.0能為業(yè)務(wù)帶來(lái)非常好的提升效果。
“比如在財(cái)務(wù)報(bào)表領(lǐng)域，阿里巴巴最近發(fā)布的財(cái)報(bào)首次使用支小助2.0幫助專(zhuān)家進(jìn)行了很多精密任務(wù)的執(zhí)行。包括財(cái)務(wù)邏輯理解、業(yè)績(jī)歸因、專(zhuān)業(yè)寫(xiě)作，都由支小助2.0輔助財(cái)務(wù)專(zhuān)家進(jìn)行編寫(xiě)。”徐萬(wàn)青稱(chēng)，這些任務(wù)（完成情況）已經(jīng)達(dá)到了高級(jí)財(cái)務(wù)專(zhuān)家的要求。
對(duì)于金融機(jī)構(gòu)而言，如何借助大模型實(shí)現(xiàn)降本增效是一個(gè)重要命題。
招聯(lián)消費(fèi)金融股份有限公司首席信息官王耀南分享道，招聯(lián)2023年11月發(fā)布消費(fèi)金融行業(yè)首個(gè)130億參數(shù)大模型“招聯(lián)智鹿”，今年7月升級(jí)推出“招聯(lián)智鹿二代”，以智能客服為例，不僅可以結(jié)合具體會(huì)話(huà)狀態(tài)與服務(wù)場(chǎng)景，快速精準(zhǔn)地進(jìn)行會(huì)話(huà)小結(jié)，大幅提升坐席作業(yè)效率，還能充分利用深度學(xué)習(xí)技術(shù)，準(zhǔn)確理解客戶(hù)意圖，共情客戶(hù)情緒，并將與客戶(hù)交互的“經(jīng)驗(yàn)”和“感覺(jué)”積累成參考樣本，實(shí)現(xiàn)舉一反三的智能服務(wù)，大幅降低投訴率。
徐萬(wàn)青也談及，現(xiàn)在支小助2.0有能力去學(xué)習(xí)優(yōu)質(zhì)的銷(xiāo)售經(jīng)驗(yàn)、銷(xiāo)售能力和銷(xiāo)售話(huà)術(shù)，從而構(gòu)建一個(gè)數(shù)字分身，讓數(shù)字分身幫助基礎(chǔ)銷(xiāo)售人員提升他們的客戶(hù)服務(wù)的能力和標(biāo)準(zhǔn)?！斑@套能力在保險(xiǎn)規(guī)劃師團(tuán)隊(duì)上已經(jīng)完全鋪開(kāi)使用了，目前可以將人均產(chǎn)能提升約150%?！?/span>
展望銀行業(yè)未來(lái)的大模型應(yīng)用，王耀南表示，希望用大語(yǔ)言模型的推理能力持續(xù)優(yōu)化招聯(lián)的整體業(yè)務(wù)運(yùn)營(yíng)情況。他認(rèn)為，對(duì)于金融企業(yè)而言，要把業(yè)務(wù)和語(yǔ)言模型結(jié)合，產(chǎn)生（實(shí)際）效果，因?yàn)橹挥性谄髽I(yè)內(nèi)部踏踏實(shí)實(shí)落地，語(yǔ)言模型的價(jià)值才能更好地凸顯出來(lái)。”
徐萬(wàn)青強(qiáng)調(diào)需要基于用戶(hù)的角度進(jìn)行思考。“以理財(cái)為例，我們的客戶(hù)會(huì)希望能夠獲得更個(gè)性化的金融服務(wù)，希望大模型理解我真正的偏好、訴求、風(fēng)險(xiǎn)；同時(shí)，也希望這個(gè)服務(wù)的獲取方式非常便利，借助大模型能力，實(shí)現(xiàn)語(yǔ)言交流、視頻交流；更進(jìn)一步，用戶(hù)希望給到的個(gè)性化服務(wù)，能夠真正有效的能夠支持他的投資決策，而這對(duì)大模型處理信息的及時(shí)性和有效性也提出了更高的要求?！?/span>
金融領(lǐng)域有其特殊性，李耀建議在運(yùn)用大模型的過(guò)程中，應(yīng)當(dāng)走“通用加專(zhuān)用”的道路，即通用大模型搭配專(zhuān)用模型使用，這可以讓傳統(tǒng)的專(zhuān)家模型、機(jī)器學(xué)習(xí)手段更加穩(wěn)定、更加具有可解釋性。
冉翀則認(rèn)為，在金融大模型的未來(lái)，如果能把任務(wù)和職業(yè)定義清楚，應(yīng)該是都有可能利用大模型來(lái)實(shí)現(xiàn)任務(wù)和職業(yè)的替換。
（“金融大模型的進(jìn)階之路”圓桌討論會(huì)現(xiàn)場(chǎng)）
技術(shù)與成本的多重挑戰(zhàn)
不可避免地，路上總有挑戰(zhàn)。
一方面，Bug總會(huì)出現(xiàn)，這要求大量的實(shí)踐與改進(jìn)。王耀南舉例稱(chēng)，在推斷客戶(hù)最近的資金需求時(shí)，銀行一般會(huì)查看他們的人行查詢(xún)報(bào)告次數(shù)，人工會(huì)發(fā)現(xiàn)客戶(hù)最近沒(méi)有很頻繁查看，但機(jī)器人推斷出客戶(hù)查看很頻繁。最后發(fā)現(xiàn)，這名客戶(hù)在一年前查看的次數(shù)比較多，但最近一年只有一次。“大語(yǔ)言模型對(duì)時(shí)間沒(méi)有什么概念，如果由機(jī)器做推斷，需要的細(xì)節(jié)非常多，我們正在持續(xù)推進(jìn)這方面的工作?！?/span>
冉翀也強(qiáng)調(diào)，目前在金融領(lǐng)域，如果模型的搜索能力不夠強(qiáng)，或者理解錯(cuò)誤，出現(xiàn)幻覺(jué)，單一任務(wù)上就有出錯(cuò)可能性?！懊鎸?duì)復(fù)雜的工作流，比如有5個(gè)步驟，每個(gè)步驟都要做一次，如果每個(gè)步驟只有80%的正確率，答案幾乎不可能是對(duì)的?！?/span>
冉翀稱(chēng)，在此背景下，模型本身的性能、模型使用工具的能力、模型做多步推理的可靠性，這是當(dāng)下面臨的很明確的問(wèn)題。
“模型的能力要足夠強(qiáng)，是不是（達(dá)到）金融級(jí)別的模型？是不是足夠可靠？是否有很強(qiáng)的多步推理能力？模型能不能知道自己錯(cuò)了？以及中間和用戶(hù)場(chǎng)景之間的Gap怎么彌補(bǔ)？這些都是挑戰(zhàn)?！比搅埦唧w指出。
另一方面，成本的問(wèn)題需要考量。李耀提及，“現(xiàn)在大公司要做大模型，沒(méi)有一萬(wàn)個(gè)顯卡沒(méi)法進(jìn)行，這也就意味著3-4億美金的投入。對(duì)我們來(lái)說(shuō)，不做訓(xùn)練，只做推理，投入也是很大的?！?/span>
黃進(jìn)也坦言，“現(xiàn)在各種大模型出來(lái)得太多、太快了，大模型需要本地化部署。我們作為一家中小銀行，缺乏足夠的財(cái)力與精力來(lái)適應(yīng)這些比較大的外部需求變化。”
同時(shí)，數(shù)據(jù)對(duì)于大模型的運(yùn)用尤其重要，但數(shù)據(jù)的獲取并不容易。黃進(jìn)表示，為什么說(shuō)現(xiàn)在的金融行業(yè)并沒(méi)有真正的模型能達(dá)到金融學(xué)專(zhuān)業(yè)的碩士或者博士水平？因?yàn)?/span>數(shù)據(jù)很缺乏，單靠某一家機(jī)構(gòu)、銀行無(wú)法解決這個(gè)問(wèn)題，這需要更高層面的努力。
最后，人才亦是關(guān)鍵所在，“大模型的人才非常難得，既要懂業(yè)務(wù)，同時(shí)還要懂大模型的技術(shù)，還要有工程化交付的能力，這些都要求極強(qiáng)的學(xué)習(xí)能力。” 黃進(jìn)稱(chēng)。
強(qiáng)監(jiān)管背景下如何走得更遠(yuǎn)？
在 “AI+金融”的各式探索中，監(jiān)管與合規(guī)的重要性愈加突出。
黃進(jìn)坦言，由于銀行強(qiáng)監(jiān)管的特點(diǎn)，整個(gè)大模型利用還是相對(duì)比較局限，更多偏向中后臺(tái)，沒(méi)有完全直接對(duì)客的應(yīng)用場(chǎng)景。
徐萬(wàn)青在論壇上強(qiáng)調(diào)，金融行業(yè)是強(qiáng)監(jiān)管行業(yè)，大模型在這樣的監(jiān)管和合規(guī)要求下能做的事情是什么？不能做的事情是什么？怎么結(jié)合才能實(shí)現(xiàn)用戶(hù)更深的需求？這些問(wèn)題都有待思考和突破。
李耀對(duì)此持有同感，并期待監(jiān)管層在這方面能有更多相關(guān)立法和管理?xiàng)l例。
2024年法治藍(lán)皮書(shū)《中國(guó)法治發(fā)展報(bào)告》指出，2023年是生成式人工智能監(jiān)管元年。為應(yīng)對(duì)生成式人工智能帶來(lái)的安全風(fēng)險(xiǎn)，國(guó)家網(wǎng)信辦等7部門(mén)發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》。中國(guó)也因此成為世界上首個(gè)為GPT大模型立法的國(guó)家。
在金融科技領(lǐng)域，更完善的AI監(jiān)管制度仍在路上。顯然，只有在監(jiān)管環(huán)境更為明朗的環(huán)境下，銀行的大模型運(yùn)用才能走得更遠(yuǎn)。