文 | 芯東西 翊含
編輯 | Panken
4月3日消息，據(jù)韓媒報(bào)道，三星設(shè)備解決方案（DS）部門才啟用聊天機(jī)器人ChatGPT 20多天，就鬧出了3起數(shù)據(jù)泄露事故，導(dǎo)致其與半導(dǎo)體設(shè)備測量、良品率/缺陷、內(nèi)部會議內(nèi)容等相關(guān)信息被上傳到ChatGPT的服務(wù)器中。
這一事件立即引起了韓國全網(wǎng)的關(guān)注與熱議。DS部門主管三星的存儲、芯片設(shè)計(jì)、晶圓代工等半導(dǎo)體核心業(yè)務(wù)，自今年3月11日起允許員工使用ChatGPT。結(jié)果有3位員工為了“圖省事”，把機(jī)密數(shù)據(jù)送到海外了。
美國人工智能（AI）企業(yè)OpenAI是ChatGPT的開發(fā)商，但這3起泄密事故的鍋可背不到OpenAI頭上。在ChatGPT使用指南中，OpenAI已經(jīng)明確說明輸入ChatGPT聊天框的文本內(nèi)容會被用于進(jìn)一步訓(xùn)練模型，警告用戶不要提交敏感信息。
三星已采取限制ChatGPT輸入問題長度、限制辦公電腦使用等緊急措施，籌備以防再發(fā)生類似信息泄露事故的保護(hù)措施，并正考慮在構(gòu)建自己的人工智能服務(wù)。當(dāng)前，多家海外企業(yè)已采取措施阻止或限制員工使用ChatGPT。
01.3位員工將三星機(jī)密數(shù)據(jù)輸入ChatGPT
美國初創(chuàng)公司OpenAI會獲取用戶們在ChatGPT輸入的內(nèi)容，并將這些數(shù)據(jù)用于進(jìn)一步訓(xùn)練模型。如果用戶提問的內(nèi)容涉及企業(yè)機(jī)密，相關(guān)內(nèi)容將會遭到大范圍泄露。OpenAI也在ChatGPT使用指南中告知“不要輸入敏感內(nèi)容”。
三星電子擔(dān)心ChatGPT的內(nèi)部使用可能會發(fā)生公司內(nèi)部機(jī)密等信息泄露的問題，一直在阻止在企業(yè)內(nèi)使用ChatGPT。但從3月11日開始，DS部門允許使用ChatGPT。負(fù)責(zé)影像顯示、家電、移動通信、醫(yī)療設(shè)備等業(yè)務(wù)的三星設(shè)備體驗(yàn)部門（DX部門）目前還禁止使用ChatGPT。
允許DS部門使用ChatGPT的原因是該部門負(fù)責(zé)人認(rèn)為員工有必要認(rèn)識到當(dāng)代技術(shù)發(fā)生的變化。三星只是允許使用ChatGPT，并向員工們發(fā)布公告稱：“注意公司內(nèi)部信息安全，不要輸入私人內(nèi)容?！?/p>
DS部門實(shí)施這項(xiàng)運(yùn)營政策不到20天，就發(fā)生了令人擔(dān)憂的“公司內(nèi)部信息泄露”事故。三星電子掌握的事故內(nèi)容為兩起“設(shè)備信息泄露事故”和一起“會議內(nèi)容泄露事故”。三星在得知相關(guān)事實(shí)后，實(shí)施了“緊急措施”事項(xiàng)，包括將每個(gè)問題的上傳容量限制在1024字節(jié)。三星計(jì)劃調(diào)查企業(yè)信息泄露事故經(jīng)過，必要時(shí)給予當(dāng)事員工懲戒。
三星電子DS部門員工A某在運(yùn)行半導(dǎo)體設(shè)備測量數(shù)據(jù)庫（DB）下載程序的源代碼時(shí)發(fā)生了錯(cuò)誤。于是他復(fù)制所有有問題的源代碼，輸入ChatGPT，詢問解決方法。
員工B某將為“設(shè)備測量”及“產(chǎn)量和缺陷”編寫的程序代碼整個(gè)相關(guān)源輸入ChatGPT，要求其優(yōu)化代碼。
員工C某通過NAVER Clova應(yīng)用程序（APP）將用智能手機(jī)錄制的會議內(nèi)容轉(zhuǎn)換為文檔文件后，輸入到ChatGPT中，目的是要求制作會議記錄。
三星電子向員工通告了上述情況，并提醒員工謹(jǐn)慎使用ChatGPT。三星通過內(nèi)部公告警示說：“在ChatGPT中輸入內(nèi)容的瞬間，數(shù)據(jù)就會發(fā)送到外部服務(wù)器并存儲，公司無法收回。如果ChatGPT學(xué)習(xí)相關(guān)內(nèi)容，敏感內(nèi)容可能會提供給不特定的多數(shù)人?！?/p>
02.三星電子提高對生成式AI理解，限制使用ChatGPT
三星電子正在制定防止通過ChatGPT泄露信息事故再次發(fā)生的保護(hù)措施方案。該公司告知員工：“如果在采取信息保護(hù)緊急措施后仍發(fā)生類似事故，公司內(nèi)部網(wǎng)可能會阻止ChatGPT連接?！?/p>
一位三星電子相關(guān)人士對詢問此次信息泄露事故的記者說：“因?yàn)槭枪緝?nèi)部情況，很難確認(rèn)?！?/p>
三星電子認(rèn)為生成式AI可能會使半導(dǎo)體生態(tài)系統(tǒng)發(fā)生變化，因此敦促管理層采取應(yīng)對措施。上月22日，以全體高管為對象，以“ChatGPT登場，生成式AI創(chuàng)造未來”為主題舉行了在線研討會。三星電子副會長韓鐘熙曾強(qiáng)調(diào)ChatGPT的重要性，強(qiáng)調(diào)有必要提高對生成型AI的理解。
為了防止今后公司主要機(jī)密和個(gè)人信息等泄露，DX部門就ChatGPT的使用情況對公司員工進(jìn)行問卷調(diào)查。 問卷不僅包括詢問是否有使用ChatGPT的經(jīng)驗(yàn)，還包括詢問對公司內(nèi)部使用ChatGPT的看法等內(nèi)容。
三星電子計(jì)劃以問卷調(diào)查結(jié)果為基礎(chǔ)，制定上傳容量限制或業(yè)務(wù)PC（個(gè)人電腦）使用限制等內(nèi)部規(guī)定，并與員工共享。
三星電子設(shè)備解決方案部門（DS部門）在最近的公告欄上發(fā)布了提醒注意ChatGPT誤用的信息。各組長還對組員進(jìn)行了ChatGPT可用范圍等培訓(xùn)。
03.各大公司限制ChatGPT使用，制定ChatGPT使用指南
半導(dǎo)體業(yè)務(wù)大部分屬于機(jī)密，一不小心就會上傳報(bào)告等內(nèi)部信息，泄露機(jī)密。全球鋼鐵制造廠巨頭韓國浦項(xiàng)制鐵為了防止通過ChatGPT泄露信息，正在準(zhǔn)備通過內(nèi)部Intranet（企業(yè)內(nèi)部網(wǎng)）利用ChatGPT的途徑，向員工進(jìn)行引導(dǎo)。浦項(xiàng)制鐵公司在內(nèi)部協(xié)作平臺“Teams”中引入ChatGPT功能，只在內(nèi)部系統(tǒng)內(nèi)使用ChatGPT，從而同時(shí)加強(qiáng)安全性和工作效率。
市場調(diào)查公司Gartner對62名企業(yè)人事負(fù)責(zé)人進(jìn)行了問卷調(diào)查，結(jié)果顯示，其中48%的人表示正在制定ChatGPT等AI聊天機(jī)器人業(yè)務(wù)的使用指南。
全球第二大存儲芯片巨頭韓國SK海力士除必要時(shí)刻外幾乎禁止公司內(nèi)部網(wǎng)使用ChatGPT。
韓國液晶面板龍頭公司LG Display通過公司內(nèi)部帖子和教育、活動等，隨時(shí)強(qiáng)調(diào)公司內(nèi)部信息保護(hù)和防止泄露等信息安全認(rèn)識。海外因擔(dān)心機(jī)密信息泄露而限制使用ChatGPT的企業(yè)越來越多。各家公司擔(dān)心如果在ChatGPT中輸入信息，AI可能會學(xué)習(xí)并泄露給外界。
最近，JP摩根大通、美國銀行、花旗集團(tuán)、高盛、德意志銀行等美國銀行限制使用ChatGPT等AI聊天機(jī)器人。
據(jù)《日本經(jīng)濟(jì)新聞》等媒體報(bào)道，日本軟銀集團(tuán)最近向全體員工通報(bào)了禁止在ChatGPT中輸入機(jī)密信息等注意事項(xiàng)，該集團(tuán)還計(jì)劃制定了哪些業(yè)務(wù)或用途可以使用交互式AI的規(guī)則。
在日本，瑞穗金融集團(tuán)、三菱UFJ銀行、三井住友銀行禁止將ChatGPT等交互式AI用于業(yè)務(wù)。此外，松下控股旗下松下Connect在制定信息泄露對策后才允許使用交互式AI。富士通設(shè)置了“AI倫理治理室”，提醒用戶使用交互式AI時(shí)的注意點(diǎn)。
一位韓國商界相關(guān)人士稱，ChatGPT一直以來都是熱門話題，現(xiàn)在大家都在試著使用和學(xué)習(xí)，企業(yè)也需要更加警惕信息泄露等問題。
04.結(jié)語：三星電子企業(yè)機(jī)密泄露，制定ChatGPT使用的保護(hù)措施
三星電子批準(zhǔn)內(nèi)部使用ChatGPT不久后，公司內(nèi)部與半導(dǎo)體“設(shè)備測量”及“產(chǎn)量和缺陷”有關(guān)的程序內(nèi)容被傳送到美國。ChatGPT在聊天界面和輸入的信息極有可能會泄露，關(guān)于這一點(diǎn)并沒有任何安全保障。各大公司紛紛意識到了這一點(diǎn)并立馬開始建立完善的ChatGPT使用說明以提示員工謹(jǐn)慎使用這一軟件。
ChatGPT像一把雙刃劍，在為大家提出各種問題解決方案的同時(shí)，也讓提問者經(jīng)受著輸入信息被泄露的風(fēng)險(xiǎn)。要想安全有效的使用這一軟件，還需提高謹(jǐn)慎，在有完善的信息保護(hù)體系之前，不要輸入任何有關(guān)企業(yè)機(jī)密信息的問題。
來源：韓聯(lián)社、韓國《經(jīng)濟(jì)學(xué)人》