文|中國電子銀行網 王超
春節(jié)剛過，打工人還沒徹底從節(jié)后綜合癥里走出來，人工智能領域的ChatGPT就已經火遍全網。智能銀行一直是銀行數字化轉型的重點方向，銀行自然也會密切關注這一冉冉升起的AI明星。
2月6日，招商銀行發(fā)布招商銀行親情信用卡（附卡）推文。這篇推文通過與ChatGPT對話的方式對親情作出解釋，引發(fā)業(yè)界熱議。
2月8日，江蘇銀行相關負責人表示，該行已嘗試運用ChatGPT 技術提升軟件開發(fā)生產力，進一步提高科技運營效能。
新技術應用，銀行向來是積極的，同時也是謹慎的。從當前的表現來看，銀行并未將ChatGPT應用在具體的金融業(yè)務上。技術成熟度和可能產生的科技倫理風險是銀行對新技術保持謹慎的重要原因。
任何技術的出現所帶來的科技倫理問題都會引起監(jiān)管的注意。ChatGPT一路狂飆，如何才能實現安全駕馭？如何引導技術健康發(fā)展，防范潛在風險一直是監(jiān)管留意和研究的重點課題。
2022年10月9日，中國人民銀行就正式發(fā)布了《金融領域科技倫理指引》（JR/T0258-2022）標準（以下簡稱“《指引》）?！吨敢访鞔_，科技倫理即開展科學研究、技術開發(fā)等科技活動需要遵循的價值理念和行為規(guī)范。
2022年1月，中國人民銀行印發(fā)《金融科技發(fā)展規(guī)劃（2022-2025年）》（以下簡稱《規(guī)劃》）。《規(guī)劃》提出了八個方面的重點任務。其中，第一條便是強化金融科技治理，全面塑造數字化能力，健全多方參與、協同共治的金融科技倫理規(guī)范體系，構建互促共進的數字生態(tài)。
除了金融監(jiān)管，即使是民間科技大佬也在呼吁“對人工智能進行監(jiān)管”。
2018年3月，馬斯克是在接受 HBO 劇集《西部世界》聯合導演喬納森·諾蘭的采訪時表示，人類需要對人工智能進行監(jiān)管，以確保人工智能技術發(fā)展的安全性，這一點極其重要。
面對以ChatGPT為代表的人工智能應用，銀行需要做好哪些風險防范呢？
一是技術風險。ChatGPT主要靠模型訓練來豐富自己的對答能力。有技術專家認為，“ChatGPT的輸出仍然更偏向于統計學規(guī)律，而不是真正的智能。”如果語料信息有誤導，那么訓練的結果也會產生偏差。有些網友故意對其挖坑，它也善解人意地“跳坑”迎合。如下圖：
尤其是一些專業(yè)業(yè)務內容，一般人很難判斷ChatGPT是一本正經地胡說八道還是有板有眼地進行合理輸出，稍有不慎，就會給銀行或客戶帶來巨大損失。這也是為什么ChatGPT語料審查和標準成本高昂的原因之一。
二是數據泄露風險。AI訓練的語料可以是多種多樣的。在銀行，AI會大量獲取銀行和客戶的敏感數據信息，這些數據如果不加限制，被AI隨意輸出，必然會帶來災難。數據風控內審變得極為重要，監(jiān)管審查，包括代碼審查也變得十分必要。
三是監(jiān)管風險。技術的迭代效率大多是漸進式的，但AI的訓練和演化可能會不一樣。有研發(fā)人員表示，他在研究ChatGPT時有一種擔憂，如果它越過了某個奇點，那后果或許是十分可怕的。“可能，前幾分鐘，ChatGPT還是個傻子，但幾分鐘后，整個人類在它面前都是傻子。”一旦到了那個時候，想管都管不住了。
另外，在電信詐騙方面，很多犯罪分子在直接參與電信詐騙之前，往往有“專業(yè)、集中、系統”的電詐話術培訓，這些話術若被用于訓練ChatGPT，那么ChatGPT成為詐騙犯的日子也就不遠了，但我們會很難去抓住其背后的那個真正的詐騙犯。
除倫理風險外，ChatGPT在銀行領域的敏感風險還有成本風險。
對于單個金融機構而言，人工智能的研發(fā)成本極其高昂。一位長期關注人工智能發(fā)展趨勢的技術專家向中國電子銀行網表示，除了昂貴的軟硬件設施外，長周期的語料“訓練”是一般企業(yè)難以承受的。比如語料審查和標注就是一項龐大的工作，時間成本和金錢成本會很高。
雖然，微軟近日提出，計劃在今年晚些時候發(fā)布軟件，幫助大公司創(chuàng)建類似ChatGPT的聊天機器人。這樣可以在一定程度上降低企業(yè)的成本風險，但各企業(yè)的語料訓練標準不一，也會導致風險治理難度的增大。
在智能金融創(chuàng)新活動中化解和規(guī)避這些風險是銀行安全駕馭ChatGPT的重要前提條件。