界面新聞?dòng)浾?| 何柳穎
界面新聞編輯 | 江怡曼
AI浪潮正在重塑銀行業(yè)。
德勤今年8月發(fā)布的一份報(bào)告指出,曾經(jīng)需要銀行投入大量人力才能解決的各類挑戰(zhàn)在人工智能時(shí)代或?qū)⒂卸?。例如過往銀行職能部門需通過增加訓(xùn)練有素的員工才能提升業(yè)績(jī)這一局面,人工智能技術(shù)將對(duì)其帶來變革性影響。AI技術(shù)的應(yīng)用帶來了運(yùn)營(yíng)效能的巨幅提升,與雇傭更多員工相比,該技術(shù)能實(shí)現(xiàn)同等產(chǎn)能提升的邊際成本更低。
不僅如此,“游戲規(guī)則”或?qū)⒈桓膶?。德勤表示,我們從與全球各大銀行的業(yè)務(wù)合作中發(fā)現(xiàn),領(lǐng)先創(chuàng)新機(jī)構(gòu)正奮力推動(dòng)跨越式轉(zhuǎn)變。人工智能將不再是“戰(zhàn)術(shù)工具”(即加速當(dāng)前商業(yè)計(jì)劃的交付),而將升級(jí)成為“戰(zhàn)略決定因素”(即未來業(yè)務(wù)規(guī)劃將圍繞人工智能能力構(gòu)建展開)。
“AI已經(jīng)融入到銀行日常的營(yíng)銷、服務(wù)、經(jīng)營(yíng)各個(gè)方面。”近日,圍繞銀行業(yè)的AI布局思路與實(shí)踐,招商銀行信息技術(shù)部副總經(jīng)理俞吳杰接受了包括界面新聞?dòng)浾咴趦?nèi)的媒體采訪。俞吳杰談及,銀行日常工作中存在很多重復(fù)性的、簡(jiǎn)單的流程化工作,而這恰巧是大語言模型能夠發(fā)揮作用的地方。
俞吳杰透露,針對(duì)AI與大語言模型,目前招行的重點(diǎn)在于智算平臺(tái)的建設(shè)?!?/span>原來的服務(wù)器集群叫通算平臺(tái),和大模型相關(guān)的叫智算平臺(tái)。智算平臺(tái)既包含招行的訓(xùn)練平臺(tái),也包括推理平臺(tái)?!?/span>他提到,招行探索大模型的目標(biāo)不是建立通用模型,而是在金融行業(yè)建設(shè)垂直領(lǐng)域的大模型。
銀行與AI
2022年11月,ChatGPT橫空出世,各大銀行迅速跟進(jìn)。比如中國(guó)建設(shè)銀行啟動(dòng)“方舟計(jì)劃”,推進(jìn)金融大模型建設(shè)工程;中國(guó)工商銀行率先建成了全棧自主可控的千億級(jí)參數(shù)規(guī)模AI大模型技術(shù)體系。
從全球競(jìng)爭(zhēng)看,國(guó)內(nèi)多家金融機(jī)構(gòu)在大模型方面已奪得先機(jī)。根據(jù)《麻省理工科技評(píng)論》發(fā)布的全球金融機(jī)構(gòu)大模型領(lǐng)域?qū)@麆?chuàng)新排行榜,在全球金融機(jī)構(gòu)大模型專利創(chuàng)新領(lǐng)域,中國(guó)申請(qǐng)量達(dá)1909件,占比超75%。從專利申請(qǐng)量看,有12家國(guó)內(nèi)金融機(jī)構(gòu)進(jìn)入全球TOP20。
在俞吳杰看來,AI與銀行業(yè)適配性非常強(qiáng)。其稱,銀行有三個(gè)重要的“密集型”特征。 一是數(shù)據(jù)密集,包括客戶數(shù)據(jù)、行業(yè)數(shù)據(jù)、產(chǎn)業(yè)數(shù)據(jù)等;二是知識(shí)密集,包含大量的政策、法規(guī)、條款、合規(guī)等;三是人力密集,銀行需要開展大量的運(yùn)營(yíng)工作,無論是網(wǎng)點(diǎn)還是后臺(tái)的審核,都需要大量的人力。在這些方面,大語言模型能夠產(chǎn)生的價(jià)值面非常廣。
俞吳杰指出,大語言模型在銀行業(yè)的應(yīng)用是全方位的。比如在營(yíng)銷方面,可以借助大語言模型直接生成營(yíng)銷文案,并由專人審核,確保內(nèi)容正確合規(guī);服務(wù)質(zhì)檢方面,過去人工客服接聽電話、記錄內(nèi)容、整理歸類的流程可能需要五分鐘,但現(xiàn)在可以借助語音識(shí)別轉(zhuǎn)換成文本后交給大模型處理,可以把流程縮短到“秒”級(jí),大幅提升工作效率;風(fēng)控方面,招行的“天秤”風(fēng)控平臺(tái)可以通過大量的神經(jīng)網(wǎng)絡(luò)算法,將客戶的正常行為和風(fēng)險(xiǎn)行為區(qū)分,保障客戶資金安全......
而在大模型的開發(fā)應(yīng)用過程中,小模型的使用價(jià)值也并未褪色。
俞吳杰認(rèn)為,大模型的覆蓋范圍會(huì)越來越廣泛,因?yàn)樗蓮?fù)用,邊際成本會(huì)變低;而小模型需要專門的開發(fā),專門的部署,專門的維護(hù),成本會(huì)高,但兩者一定會(huì)長(zhǎng)期并存?!耙?yàn)樾∧P陀泻芎玫慕忉屝耘c針對(duì)性,比如客戶的信貸額度評(píng)測(cè),這需要很精準(zhǔn)的數(shù)字要求,通常小模型的表現(xiàn)會(huì)更好,我們會(huì)持續(xù)用下去?!?/span>
如今在銀行業(yè),AI+趨勢(shì)已然明確,各大中小銀行應(yīng)如何入局?
俞吳杰認(rèn)為,從行業(yè)角度看,大語言模型是一項(xiàng)持續(xù)的、規(guī)模大的投資,包括建集群、招聘人才等,且資源都比較稀缺,并非所有銀行都適合大規(guī)模投入其中。銀行業(yè)之間的交流非常多,中小銀行機(jī)構(gòu)可以復(fù)用一些業(yè)內(nèi)經(jīng)驗(yàn)?!安唤ㄗh盲目跟風(fēng),尤其是一次性的大投入,目前大模型的發(fā)展還有很多變數(shù),包括通用大模型哪個(gè)更優(yōu),怎么部署等,都還在變化過程當(dāng)中。建議中小銀行機(jī)構(gòu)更多地做好行業(yè)交流學(xué)習(xí),針對(duì)自身實(shí)際情況量力而為才是更合適的?!?/span>
通用與專業(yè)
2017年,招商銀行成立了AI實(shí)驗(yàn)室,彼時(shí)的研究范圍主要是語音、語言、計(jì)算機(jī)視覺技術(shù)等。生成式AI浪潮襲來,招行于2024年年初建立了智算平臺(tái)。后續(xù),招行將持續(xù)提升推理集群和訓(xùn)練集群算力效能。
俞吳杰尤其強(qiáng)調(diào)算力的重要性?!八懔?duì)于未來的大模型應(yīng)用是剛性需求,沒有算力服務(wù),場(chǎng)景很難擴(kuò)展,體驗(yàn)提升也有限。推理需要時(shí)間,你問它一個(gè)問題,它需要多久給你答案,這個(gè)是由算力決定的,算力必須持續(xù)增加。”
針對(duì)訓(xùn)練模型集群的擴(kuò)大,俞吳杰稱,招商銀行不會(huì)在通用大語言模型上花費(fèi)更多精力,因?yàn)橥ㄓ么笳Z言模型在銀行業(yè)的運(yùn)用有其弱點(diǎn)——對(duì)專業(yè)知識(shí)理解有限,在專業(yè)領(lǐng)域數(shù)據(jù)處理能力較弱。
囿于此,招行會(huì)在比較好的通用模型基礎(chǔ)之上,將足夠的專業(yè)領(lǐng)域知識(shí)給到大模型,“最起碼是銀行業(yè),未來還可能擴(kuò)展到證券、保險(xiǎn)等與銀行關(guān)聯(lián)性大的行業(yè)”。
如何“喂料”是關(guān)鍵問題之一?!叭缃衲軓幕ヂ?lián)網(wǎng)獲得的專業(yè)語料非常有限,更多的是招行幾十年來經(jīng)營(yíng)積累的專業(yè)語料給到大模型,否則算力再?gòu)?qiáng)也沒有實(shí)用性?!庇釁墙鼙硎?。
應(yīng)用場(chǎng)景方面,俞吳杰認(rèn)為,應(yīng)用場(chǎng)景應(yīng)選擇“三多”場(chǎng)景,即資金投入多、人工投入多、耗時(shí)多的各類場(chǎng)景,“AI在這些場(chǎng)景產(chǎn)生的價(jià)值會(huì)更大”。截至2024年10月,招行的大語言模型應(yīng)用場(chǎng)景已超百個(gè)。
為進(jìn)一步延伸應(yīng)用場(chǎng)景,招行將自上而下、自下而上地進(jìn)行嘗試。自上而下是做好規(guī)劃,在零售、批發(fā)、中后臺(tái)等領(lǐng)域探索應(yīng)用空間;自下而上是了解一線需求,“最痛的點(diǎn)是什么,或者最能產(chǎn)生業(yè)務(wù)提效的點(diǎn)是什么,往往都是一線聽得到炮火的員工理解得最深”。
值得一提的是,招行的FinTech基金為以上嘗試提供了容錯(cuò)成本。“對(duì)于大語言模型的基礎(chǔ)設(shè)施建設(shè)和應(yīng)用,總行是全力支持,基本上都能通過FinTech基金走綠色通道?!庇釁墙苷劶?。
人與機(jī)
技術(shù)總有缺陷,大語言模型亦不例外。
“風(fēng)險(xiǎn)之一是大模型幻覺,這對(duì)銀行的應(yīng)用非常不利。”俞吳杰強(qiáng)調(diào)。針對(duì)此,招行給出了兩個(gè)解決辦法,一是保留人工審核,二是應(yīng)用檢索增強(qiáng)生成技術(shù),讓大模型對(duì)接外掛知識(shí)庫(kù)。
“另外一個(gè)困難是資源消耗非常大?!庇釁墙芊Q,若性能沒有調(diào)優(yōu),等待時(shí)間很長(zhǎng),會(huì)影響客戶體驗(yàn)。因此需要不斷擴(kuò)大算力,提高性能。
“數(shù)據(jù)隱私也是一個(gè)比較大的考量因素,尤其在訓(xùn)練環(huán)節(jié)里,一定不能使用客戶敏感信息?!庇釁墙鼙硎荆绻麛?shù)據(jù)管理不夠嚴(yán)格,大語言模型可能會(huì)泄露隱私,因此招行在數(shù)據(jù)訓(xùn)練的準(zhǔn)備上非常謹(jǐn)慎。
“最后,大語言模型對(duì)于答案生成的可解釋性比較弱,你給他一個(gè)輸入,他會(huì)給你一個(gè)輸出,但為什么是這個(gè)輸出呢?”俞吳杰舉例稱,比如做貸款發(fā)放審批的時(shí)候,為什么機(jī)器審核結(jié)果有的是同意,有的是不同意?
在俞吳杰看來,大語言模型的神經(jīng)網(wǎng)絡(luò)邏輯是一個(gè)“黑盒子”,在某些決策場(chǎng)景可能并不適用,這也意味著,大語言模型對(duì)場(chǎng)景是有選擇和要求的。
因此,為優(yōu)化客戶體驗(yàn),目前招行推行的是“人+數(shù)字化”的協(xié)同模式。俞吳杰認(rèn)為,單獨(dú)由人來解決,有溫度但成本很高,解決不了規(guī)模效應(yīng)問題;單獨(dú)由機(jī)器來解決,效率很高,但可能給部分客戶帶來糟糕的體驗(yàn)。
“對(duì)招行而言,更重要的是怎么把兩者結(jié)合好。在產(chǎn)生規(guī)模效應(yīng)、提高效率的同時(shí),也能提升客戶滿意度,人機(jī)結(jié)合將是我們未來很重要的客戶服務(wù)形式。”