正在閱讀:

騰訊云智能總經(jīng)理李學(xué)朝:大模型不僅限于ChatGPT,客戶需要低成本獲得AI能力

掃一掃下載界面新聞APP

騰訊云智能總經(jīng)理李學(xué)朝:大模型不僅限于ChatGPT,客戶需要低成本獲得AI能力

很多AI解決方案在落地過程中存在著門檻高、投入大和周期長的特點。

圖片來源:視覺中國

界面新聞記者 | 崔鵬

近期AI(人工智能)的各種新進展層出不窮,整個產(chǎn)業(yè)迎來廣泛關(guān)注。不久前,騰訊云智能總經(jīng)理李學(xué)朝面向媒體做了線下分享,話題圍繞騰訊在人工智能領(lǐng)域的落地思路和應(yīng)用場景展開。

他領(lǐng)導(dǎo)的騰訊云智能團隊歸屬于CSIG云與智慧產(chǎn)業(yè)事業(yè)群,主要負(fù)責(zé)在各種人工智能技術(shù)之上搭建平臺,并向產(chǎn)業(yè)輸出落地。

騰訊云智能可以分為三層,底層是能力層,中間是平臺層,上面是方案層。能力層指的是騰訊的全棧技術(shù)能力,包括語言類、語義類、CV類等技術(shù),整合了騰訊內(nèi)部AI Lab、微信AI和優(yōu)圖等幾大AI實驗室。

這些新技術(shù),騰訊不會直接拿給客戶去用,而是先在公司內(nèi)部的各個產(chǎn)品進行應(yīng)用實踐。無論是大模型、NLP還是數(shù)字人技術(shù),都在騰訊的廣告、搜索、翻譯同傳和語言助手等業(yè)務(wù)上進行過反復(fù)打磨。

李學(xué)朝認(rèn)為,這些新技術(shù)只有跟場景結(jié)合、跟客戶相結(jié)合,才能產(chǎn)生價值。所以騰訊一直在探索怎么把底層技術(shù)和大模型包裝起來對外輸出,以能力、平臺或者應(yīng)用的形態(tài)。

“現(xiàn)在大家喜歡討論大模型,其實大模型并不僅限于ChatGPT這一種類型”,李學(xué)朝表示,騰訊的大模型此前就在對話等領(lǐng)域有過實踐。

目前大模型領(lǐng)域有比較普遍的挑戰(zhàn)和痛點,例如在訓(xùn)練上AI應(yīng)用場景處理的數(shù)據(jù)量越來越大,模型網(wǎng)絡(luò)的結(jié)構(gòu)復(fù)雜度越來越高,模型的訓(xùn)練周期也越來越長。

比如說ChatGPT訓(xùn)練一次大概需要月計,完整訓(xùn)練需要近千張A100卡。李學(xué)朝介紹稱,騰訊很多大模型就算用低成本方式,訓(xùn)練一次也得一兩周。這種情況下,客戶的成本很高,因為現(xiàn)在GPU資源很難獲取,訓(xùn)練周期比較長,嚴(yán)重影響到模型產(chǎn)出效率。

所以,雖然過去幾年AI產(chǎn)業(yè)發(fā)展很火,但它面臨著明顯的發(fā)展瓶頸。很多AI解決方案在落地過程中存在著門檻高、投入大和周期長的特點。在企業(yè)降本需求非常強烈的背景下,低成本快速獲取AI算力和能力的需求日漸增長。

也是基于這個目的,騰訊推出了騰訊云TI平臺。它能簡化開發(fā)者的工程投入,實現(xiàn)即插即用、低門檻的接入。

騰訊將多模態(tài)AI技術(shù)能力聚集到TI平臺上,同時把AI應(yīng)用中做的TI-ACC加速平臺放進來,讓平臺在訓(xùn)練和推理方面都能加速和降低成本。

以TI-OCR訓(xùn)練平臺舉例,很多行業(yè)都有大量的報銷和發(fā)票等各種格式的單據(jù),當(dāng)對它們做電子化處理的時候就要用到OCR技術(shù)。這項技術(shù)一方面對識別準(zhǔn)確率要求很高,第二方面就面臨著格式、版式多樣性的挑戰(zhàn),每一個票據(jù)的模板排版都不同。

根據(jù)官方介紹,騰訊的TI-OCR支持大概5000多種版式,泛化準(zhǔn)確率能達到90%,而且拿5張樣本快速訓(xùn)練的準(zhǔn)確率能達到95%以上;現(xiàn)在檢測識別500張樣本做訓(xùn)練準(zhǔn)確率為99%,在快遞里面做分揀,100張樣本能做到99.5%的準(zhǔn)確率。這個平臺在物流、財稅等場景里有很多應(yīng)用。

在工業(yè)場景下,騰訊推出了騰訊云智能工業(yè)質(zhì)檢解決方案,它是一套軟硬一體的AI外觀質(zhì)檢解決方案。

以蘋果產(chǎn)業(yè)鏈企業(yè)富馳高科為例,蘋果對iPhone手機內(nèi)每個零件的加工過程都有很高質(zhì)量的要求,生產(chǎn)企業(yè)以前主要靠人工檢測,現(xiàn)在可以用AI質(zhì)檢提升生產(chǎn)效率。

富馳高科與騰訊合作后,將光度立體成像技術(shù)、深度學(xué)習(xí)等工業(yè)AI質(zhì)檢技術(shù)引入攝像頭支架外觀檢測中,質(zhì)檢速度較人工提升10倍。目前騰訊為富馳高科提供了10多臺設(shè)備,機器持續(xù)滿載生產(chǎn)的情況下,每年能為其節(jié)省數(shù)千萬元的人力成本。

官方信息顯示,騰訊已經(jīng)在10個工業(yè)細(xì)分領(lǐng)域推出了成形的解決方案,每年累計交付超過100臺設(shè)備;單就外觀檢測設(shè)備來說,單一客戶累計檢測2000萬件。當(dāng)客戶有新的產(chǎn)品外觀上線時,檢測人員可以將圖片提交到我們的平臺上自主訓(xùn)練,極大降低了算法門檻。

目前,騰訊工業(yè)AI質(zhì)檢聚焦在3C電子、新能源等行業(yè),以及手機配件檢測、3C結(jié)構(gòu)件檢測、鋰電池生產(chǎn)質(zhì)檢等重點領(lǐng)域。

騰訊云智能的理念是AI要服務(wù)于人,針對的用戶主要包括管理者、業(yè)務(wù)人員、研發(fā)人員和C端用戶這四類人群,對應(yīng)的就是決策智能、服務(wù)智能、研發(fā)智能和生活智能,目前已經(jīng)在8大行業(yè)落地超過50多個客戶,有70%的存量客戶追加采購TI平臺的軟件和服務(wù)。

李學(xué)朝表示,騰訊希望把平臺開放出去,讓合作伙伴基于平臺去開發(fā)更多的場景,幫助客戶去實現(xiàn)它們的業(yè)務(wù)價值。

 

未經(jīng)正式授權(quán)嚴(yán)禁轉(zhuǎn)載本文,侵權(quán)必究。

騰訊

6.8k
  • NBA重新搭建中國生意,獨家簽約的騰訊體育從中賺到了什么?
  • 騰訊副總裁曾宇提出退休申請

評論

暫無評論哦,快來評價一下吧!

下載界面新聞

微信公眾號

微博

騰訊云智能總經(jīng)理李學(xué)朝:大模型不僅限于ChatGPT,客戶需要低成本獲得AI能力

很多AI解決方案在落地過程中存在著門檻高、投入大和周期長的特點。

圖片來源:視覺中國

界面新聞記者 | 崔鵬

近期AI(人工智能)的各種新進展層出不窮,整個產(chǎn)業(yè)迎來廣泛關(guān)注。不久前,騰訊云智能總經(jīng)理李學(xué)朝面向媒體做了線下分享,話題圍繞騰訊在人工智能領(lǐng)域的落地思路和應(yīng)用場景展開。

他領(lǐng)導(dǎo)的騰訊云智能團隊歸屬于CSIG云與智慧產(chǎn)業(yè)事業(yè)群,主要負(fù)責(zé)在各種人工智能技術(shù)之上搭建平臺,并向產(chǎn)業(yè)輸出落地。

騰訊云智能可以分為三層,底層是能力層,中間是平臺層,上面是方案層。能力層指的是騰訊的全棧技術(shù)能力,包括語言類、語義類、CV類等技術(shù),整合了騰訊內(nèi)部AI Lab、微信AI和優(yōu)圖等幾大AI實驗室。

這些新技術(shù),騰訊不會直接拿給客戶去用,而是先在公司內(nèi)部的各個產(chǎn)品進行應(yīng)用實踐。無論是大模型、NLP還是數(shù)字人技術(shù),都在騰訊的廣告、搜索、翻譯同傳和語言助手等業(yè)務(wù)上進行過反復(fù)打磨。

李學(xué)朝認(rèn)為,這些新技術(shù)只有跟場景結(jié)合、跟客戶相結(jié)合,才能產(chǎn)生價值。所以騰訊一直在探索怎么把底層技術(shù)和大模型包裝起來對外輸出,以能力、平臺或者應(yīng)用的形態(tài)。

“現(xiàn)在大家喜歡討論大模型,其實大模型并不僅限于ChatGPT這一種類型”,李學(xué)朝表示,騰訊的大模型此前就在對話等領(lǐng)域有過實踐。

目前大模型領(lǐng)域有比較普遍的挑戰(zhàn)和痛點,例如在訓(xùn)練上AI應(yīng)用場景處理的數(shù)據(jù)量越來越大,模型網(wǎng)絡(luò)的結(jié)構(gòu)復(fù)雜度越來越高,模型的訓(xùn)練周期也越來越長。

比如說ChatGPT訓(xùn)練一次大概需要月計,完整訓(xùn)練需要近千張A100卡。李學(xué)朝介紹稱,騰訊很多大模型就算用低成本方式,訓(xùn)練一次也得一兩周。這種情況下,客戶的成本很高,因為現(xiàn)在GPU資源很難獲取,訓(xùn)練周期比較長,嚴(yán)重影響到模型產(chǎn)出效率。

所以,雖然過去幾年AI產(chǎn)業(yè)發(fā)展很火,但它面臨著明顯的發(fā)展瓶頸。很多AI解決方案在落地過程中存在著門檻高、投入大和周期長的特點。在企業(yè)降本需求非常強烈的背景下,低成本快速獲取AI算力和能力的需求日漸增長。

也是基于這個目的,騰訊推出了騰訊云TI平臺。它能簡化開發(fā)者的工程投入,實現(xiàn)即插即用、低門檻的接入。

騰訊將多模態(tài)AI技術(shù)能力聚集到TI平臺上,同時把AI應(yīng)用中做的TI-ACC加速平臺放進來,讓平臺在訓(xùn)練和推理方面都能加速和降低成本。

以TI-OCR訓(xùn)練平臺舉例,很多行業(yè)都有大量的報銷和發(fā)票等各種格式的單據(jù),當(dāng)對它們做電子化處理的時候就要用到OCR技術(shù)。這項技術(shù)一方面對識別準(zhǔn)確率要求很高,第二方面就面臨著格式、版式多樣性的挑戰(zhàn),每一個票據(jù)的模板排版都不同。

根據(jù)官方介紹,騰訊的TI-OCR支持大概5000多種版式,泛化準(zhǔn)確率能達到90%,而且拿5張樣本快速訓(xùn)練的準(zhǔn)確率能達到95%以上;現(xiàn)在檢測識別500張樣本做訓(xùn)練準(zhǔn)確率為99%,在快遞里面做分揀,100張樣本能做到99.5%的準(zhǔn)確率。這個平臺在物流、財稅等場景里有很多應(yīng)用。

在工業(yè)場景下,騰訊推出了騰訊云智能工業(yè)質(zhì)檢解決方案,它是一套軟硬一體的AI外觀質(zhì)檢解決方案。

以蘋果產(chǎn)業(yè)鏈企業(yè)富馳高科為例,蘋果對iPhone手機內(nèi)每個零件的加工過程都有很高質(zhì)量的要求,生產(chǎn)企業(yè)以前主要靠人工檢測,現(xiàn)在可以用AI質(zhì)檢提升生產(chǎn)效率。

富馳高科與騰訊合作后,將光度立體成像技術(shù)、深度學(xué)習(xí)等工業(yè)AI質(zhì)檢技術(shù)引入攝像頭支架外觀檢測中,質(zhì)檢速度較人工提升10倍。目前騰訊為富馳高科提供了10多臺設(shè)備,機器持續(xù)滿載生產(chǎn)的情況下,每年能為其節(jié)省數(shù)千萬元的人力成本。

官方信息顯示,騰訊已經(jīng)在10個工業(yè)細(xì)分領(lǐng)域推出了成形的解決方案,每年累計交付超過100臺設(shè)備;單就外觀檢測設(shè)備來說,單一客戶累計檢測2000萬件。當(dāng)客戶有新的產(chǎn)品外觀上線時,檢測人員可以將圖片提交到我們的平臺上自主訓(xùn)練,極大降低了算法門檻。

目前,騰訊工業(yè)AI質(zhì)檢聚焦在3C電子、新能源等行業(yè),以及手機配件檢測、3C結(jié)構(gòu)件檢測、鋰電池生產(chǎn)質(zhì)檢等重點領(lǐng)域。

騰訊云智能的理念是AI要服務(wù)于人,針對的用戶主要包括管理者、業(yè)務(wù)人員、研發(fā)人員和C端用戶這四類人群,對應(yīng)的就是決策智能、服務(wù)智能、研發(fā)智能和生活智能,目前已經(jīng)在8大行業(yè)落地超過50多個客戶,有70%的存量客戶追加采購TI平臺的軟件和服務(wù)。

李學(xué)朝表示,騰訊希望把平臺開放出去,讓合作伙伴基于平臺去開發(fā)更多的場景,幫助客戶去實現(xiàn)它們的業(yè)務(wù)價值。

 

未經(jīng)正式授權(quán)嚴(yán)禁轉(zhuǎn)載本文,侵權(quán)必究。