正在閱讀:

AI PC后時(shí)代:重新理解大模型的最佳載體

掃一掃下載界面新聞APP

AI PC后時(shí)代:重新理解大模型的最佳載體

人機(jī)交互變革再次引爆PC行業(yè)。

文|產(chǎn)業(yè)家 思杭

編輯|皮爺

埃尼亞克ENIAC——世界上第一臺(tái)電子計(jì)算機(jī),是二戰(zhàn)時(shí)期由六名女性主導(dǎo)編程出來的。那時(shí),包括她們?cè)趦?nèi)的所有女性都不得踏入ENIAC房間。站在當(dāng)下的現(xiàn)代社會(huì)去回看歷史,女性地位在當(dāng)時(shí)呈現(xiàn)出一種極端的狀態(tài)——這六名女性的名字在過去很長一段時(shí)間都不能出現(xiàn)在“功勞簿”上,盡管她們對(duì)于現(xiàn)代編程的意義尤為重大。

而這是歷史上出現(xiàn)的第一次人機(jī)交互。

在隨后的半個(gè)多世紀(jì)里,從施樂公司引領(lǐng)的“圖形用戶界面”變革,到蘋果公司引領(lǐng)的“觸摸交互界面”變革,歷史上的每一次人機(jī)交互變革都在全球PC市場上掀起過驚濤駭浪。這種演進(jìn)歷程除了帶給用戶實(shí)用性、娛樂性、便捷性以外,它所承載的更大暢想是一個(gè)數(shù)字版的“烏托邦”世界。

而今天的“AI變革”就是讓這一暢想在未來有一天會(huì)變成現(xiàn)實(shí)的載體。比如現(xiàn)在的電腦只是工具,而未來的電腦則可以是一個(gè)超級(jí)助手。它可以通過存儲(chǔ)用戶使用電腦的個(gè)人習(xí)慣和知識(shí),來代替用戶完成基本工作,甚至創(chuàng)意性工作。更重要的是,這種AI電腦的隱私性也不再是問題。

然而,在這種烏托邦式的“AI電腦”還未到來之前,幾個(gè)值得探討的問題是:如何將AI裝進(jìn)個(gè)人電腦里?個(gè)人電腦又如何能進(jìn)行大規(guī)模的AI計(jì)算?這對(duì)于芯片等硬件提出了怎樣的要求?硬件之外,軟件層又將會(huì)迎來哪些變革?

隨著一場由AI主導(dǎo)的人機(jī)交互變革再一次引爆PC市場,一系列問題也正在成為PC舞臺(tái)上的焦點(diǎn)。

端側(cè)大模型到底成色如何?

從手機(jī)的攝像頭到智能穿戴設(shè)備,從汽車到智能家居,每一個(gè)輸入和輸出點(diǎn)都可能成為AI施展拳腳的舞臺(tái)。

2023年初,在巴塞羅那舉行的MWC世界移動(dòng)通信大會(huì)上,期間榮耀發(fā)布了魔法OS 8.0、魔法大模型、Magic6 Pro手機(jī)等產(chǎn)品;高通和聯(lián)發(fā)科展示了更多AI能力的芯片。同年,三星、vivo、OPPO、榮耀、華為、小米等手機(jī)廠商開始將大模型能力應(yīng)用在手機(jī)產(chǎn)品上,AI手機(jī)加速滲透。

自此,一場發(fā)生在終端上的AI變革也正式拉響。先是手機(jī),然后是智能穿戴設(shè)備,再接下來是汽車、智能家居,似乎一切終端都可以和AI“相加”。

那么,為什么各種終端場景都在與AI結(jié)合?

從大模型的落地發(fā)展趨勢看,從云端向終端推進(jìn)是目前的重點(diǎn)發(fā)展方向之一。如果所有的部署方式都在云端,則需要通過終端訪問云端,雖然這種方式能夠保證有足夠的參數(shù)量和算力,但對(duì)于輕量化、低時(shí)延的任務(wù),顯然不具備優(yōu)勢。

而端側(cè)AI的核心也正在于,它能夠在不依賴云端服務(wù)器的情況下,快速響應(yīng)用戶需求,處理本地?cái)?shù)據(jù),保護(hù)用戶隱私。

但將大模型部署在端側(cè)仍然存在一些挑戰(zhàn)。最顯而易見的難題則是,如何保證端側(cè)大模型有足夠的算力支撐?

從目前市場上的端側(cè)大模型來看,一個(gè)符合常理的規(guī)律是:設(shè)備端越大(功能越多),其端側(cè)大模型的參數(shù)量也越大。

2024年2月,面壁智能聯(lián)合清華NLP實(shí)驗(yàn)室發(fā)布并開源端側(cè)大模型面壁MiniCPM,參數(shù)規(guī)模20億;

2023年9月,小米AI大模型亮相,參數(shù)規(guī)模13億;

2023年1月,榮耀發(fā)布端側(cè)平臺(tái)級(jí)AI大模型——魔法大模型,參數(shù)規(guī)模70億。

上述是部署在手機(jī)上的大模型,可以看到其參數(shù)規(guī)模并無法與如今位列海內(nèi)外第一梯隊(duì)的大模型相媲美。而對(duì)于功能更受限制的智能穿戴設(shè)備而言,其端側(cè)大模型的參數(shù)規(guī)模則只會(huì)比手機(jī)更小。但值得注意的是,榮耀的驍龍8則是搭載了有著70億參數(shù)規(guī)模的魔法大模型。

在過去與媒體的對(duì)話中,榮耀研發(fā)管理部總裁鄧斌也曾透露,“端側(cè)運(yùn)行大模型受算力、帶寬、功耗等影響,在端側(cè)運(yùn)行70億參數(shù)模型已經(jīng)到了極限?!?/p>

但在最近的2024北京車展上,商湯亮相的“日日新5.0”可以說是一個(gè)重磅炸彈。其采用混合專家架構(gòu)(MOE),是國內(nèi)首個(gè)全面對(duì)標(biāo)甚至超越GPT-4 Turbo的大模型,參數(shù)規(guī)模達(dá)到6000億。而這是一個(gè)更適合車端部署的端側(cè)大模型。

實(shí)際上,無論是榮耀的魔法大模型,還是商湯的日日新,端側(cè)大模型都有一個(gè)特點(diǎn),即參數(shù)大的大模型部署在端側(cè),一定會(huì)通過“蒸餾”技術(shù)把大模型進(jìn)行壓縮,再封裝到端側(cè)。

雖然大模型會(huì)隨著參數(shù)量的不斷增加,而開始“涌現(xiàn)”,并呈現(xiàn)出Scaling Law(規(guī)模效應(yīng)),這也是為什么現(xiàn)在大家都在拼參數(shù)的重要原因;但從模型應(yīng)用來看,模型的參數(shù)量并非越大越好。最理想的狀態(tài)應(yīng)該是:用盡量少的參數(shù)量,來實(shí)現(xiàn)盡可能好的效果。

因此,封裝到端側(cè)的大模型都需要進(jìn)行“蒸餾”處理。例如,Google的MobileBERT模型就通過知識(shí)蒸餾等技術(shù),大幅減少了模型參數(shù)量,使之更適合在移動(dòng)設(shè)備上部署。

另外,除了“蒸餾”處理以外,從手機(jī)向PC端進(jìn)化,則還需要能夠保證端側(cè)大模型正常運(yùn)行的芯片。實(shí)際上,過去一年半以來,已經(jīng)有不少芯片廠商推出了適用AI PC的芯片。

2023年10月,高通在驍龍峰會(huì)期間推出了面向PC打造的Arm架構(gòu)全新處理器:驍龍X Elite;

2023年12月14日,英特爾發(fā)布Meteor Lake的酷睿Ultra處理器,這是一款集成了人工智能加速引擎NPU的CPU;

2024年4月,AMD推出適用于商用筆記本電腦和臺(tái)式機(jī)的AI芯片——銳龍PRO處理器。

不僅僅是芯片,自英特爾于去年10月發(fā)布“AI PC加速計(jì)劃”以來,整條產(chǎn)業(yè)鏈的生態(tài)也正在顯現(xiàn)出自身的模樣。從獨(dú)立硬件供應(yīng)商到獨(dú)立軟件供應(yīng)商(ISV),隨著底層芯片和上層AI PC的“各就各位”,一些軟硬件兼容問題也將加速得到解決。

然而,兼容適配并非易事。不同設(shè)備的硬件配置千差萬別,操作系統(tǒng)、開發(fā)環(huán)境的多樣性,要求大模型必須具備高度的靈活性和可移植性。此外,部署在PC端的大模型還需要保證用戶隱私,這就要求在有效利用本地?cái)?shù)據(jù)進(jìn)行模型自適應(yīng)學(xué)習(xí)的基礎(chǔ)上,還要解決隱私性的問題。

誰在成為試水者?

“我們認(rèn)為AI PC是未來幾年P(guān)C市場的一個(gè)關(guān)鍵轉(zhuǎn)折點(diǎn)。”2023年9月,英特爾在加州圣何塞舉辦的“Innovation 2023”峰會(huì)上,其CEO基辛格首次提出AI PC概念。

這是英特爾的大型芯片發(fā)布會(huì)現(xiàn)場。而在展示其三代AI芯片路線圖的同時(shí),英特爾還特別強(qiáng)調(diào)了即將推出的酷睿Ultra處理器“Meteor Lake”,該處理器被英特爾視為40年來最重大的處理器架構(gòu)變革,也是一款能夠搭載AI PC上的芯片。

這款處理器不出意外地在2023年12月正式亮相。實(shí)際上,作為芯片巨頭,英特爾在AI PC的方面的進(jìn)展,一直都是從硬件層面出發(fā),通過集成AI加速器、優(yōu)化CPU架構(gòu),從而為AI應(yīng)用提供底層支持。

早在2018年,英特爾就開始了AI PC的布局。當(dāng)時(shí)的“雅典娜計(jì)劃”(Project Athena)便是其在AI PC上的一種嘗試,尤其是在電池管理、語音識(shí)別和安全性方面的優(yōu)化。比如英特爾的第11代酷睿處理器集成的GNA單元,專為低功率AI處理設(shè)計(jì)。

而在國際市場上,微軟則是一支不可忽視的力量。作為操作系統(tǒng)領(lǐng)域的領(lǐng)頭羊,微軟早在2019年便在其Windows 10系統(tǒng)中融入了AI元素,比如Cortana智能助手和機(jī)器學(xué)習(xí)驅(qū)動(dòng)的性能優(yōu)化功能。

“我們的目標(biāo)是讓每一臺(tái)Windows PC都能享受AI帶來的效率提升?!蔽④汣EO薩蒂亞·納德拉曾表示。

在AI PC的布局方面,微軟所側(cè)重的是操作系統(tǒng)層面上的智能化,比如通過Windows的更新迭代,不斷深化Cortana的功能,同時(shí)利用AI優(yōu)化系統(tǒng)性能和用戶體驗(yàn)。

而為了迎接“AI PC元年”,微軟也在今年3月推出了Surface Pro 10商用版和Surface Laptop 6商用版。

最后,在AI PC市場上真正走在前列的,則是國內(nèi)PC制造商“聯(lián)想”。2023年12月,聯(lián)想先是發(fā)布了AI Ready的AI PC產(chǎn)品,包括ThinkPad X1 Carbon AI和聯(lián)想小新Pro 16 AI酷睿版。這些產(chǎn)品搭載了Intel酷睿Ultra處理器,并配備了AI專屬芯片NPU,以提供強(qiáng)勁的本地混合AI算力。

“聯(lián)想AI PC將經(jīng)歷AI Ready階段,并在2024年邁入AI On階段,屆時(shí)每個(gè)人都將擁有自己的個(gè)人AI助理?!甭?lián)想集團(tuán)副總裁阿不力克木·阿不力米提曾在大會(huì)上這樣說道。

緊接著,2024年4月,聯(lián)想就再次發(fā)布AI PC新品,內(nèi)嵌個(gè)性化AI智能體的“聯(lián)想小天”正式亮相。

實(shí)際上,聯(lián)想對(duì)AI PC的構(gòu)想是將其打造為個(gè)人AI助理,提供個(gè)性化創(chuàng)作、私人秘書和設(shè)備管家服務(wù)。聯(lián)想AI PC的本地混合AI算力是其核心特征之一,具備內(nèi)嵌個(gè)人智能體實(shí)現(xiàn)多模態(tài)自然語言交互,以及個(gè)人大模型和本地知識(shí)庫。

早在2020年,聯(lián)想就推出了推出了搭載聯(lián)想智能引擎LCE的Yoga系列AI筆記本,旨在通過AI技術(shù)提升用戶體驗(yàn),如智能散熱調(diào)節(jié)、場景識(shí)別等。

可以看到,在AI PC的戰(zhàn)隊(duì)中,聯(lián)想屬于“務(wù)實(shí)派”,其更注重AI在實(shí)際應(yīng)用場景中的落地,通過其智能引擎LCE,實(shí)現(xiàn)在散熱、續(xù)航、交互等方面的智能優(yōu)化。

另外,除了聯(lián)想、微軟、英特爾等國際知名廠商,還有一個(gè)不得不提的PC制造商——蘋果。就在發(fā)稿前不久,蘋果迎來了一年一度的發(fā)布會(huì),而在本次發(fā)布會(huì)上,最驚艷的不過是專注于AI的M4芯片。

因此,從整體市場格局來看,一方面,聯(lián)想、微軟、英特爾等品牌正在憑借其自身影響力和技術(shù)積累,占據(jù)主導(dǎo)地位。雖然目前AI PC尚處于市場培育期,但各廠商也正在探索適合自己的路徑。

另一方面,華為、小米等新興勢力則正在憑借其在智能手機(jī)領(lǐng)域的AI經(jīng)驗(yàn),嘗試跨界進(jìn)入AI PC市場,通過整合軟硬件優(yōu)勢,形成新的競爭態(tài)勢。

而在模型層方面,目前主要是正在為開發(fā)者提供輕量級(jí)大模型的廠商,比如Google、面壁智能和Meta。

資料來源:各公司官網(wǎng),中金公司研究部

但未來,隨著模型壓縮、蒸餾等技術(shù)的技術(shù),更多復(fù)雜的大模型有望在PC端實(shí)現(xiàn)高效運(yùn)行,如OpenAI的GPT系列、阿里云的通義千問、騰訊混元、百度文心系列等等,都有可能成為端側(cè)AI PC的重要組成部分。

實(shí)際上,大模型的壓縮技術(shù)在市場上也得到了一些檢驗(yàn)。比如聯(lián)想基于大模型壓縮技術(shù),將LLM壓縮至輕量化模型進(jìn)行本地部署,目前Lenvo AI Now助手的大模型就來自阿里云的通義千問,從14.4GB的原始大模型壓縮到4GB,電腦配置5-6GB的內(nèi)存即可運(yùn)行。

那么,隨著產(chǎn)業(yè)鏈的愈加成熟,AI PC時(shí)代正在加速駛來。據(jù)IDC預(yù)測,AIPC有望在2027年滲透率達(dá)到85%。

可以預(yù)見的是,在AI成為時(shí)代潮流趨勢的當(dāng)下,這種由AI主導(dǎo)的變革也正在引爆PC市場。

AI PC的“未來暢想”

“AI PC元年”被提及得次數(shù)越來越多,但這個(gè)賽道還缺少一個(gè)“殺手級(jí)”應(yīng)用。

去年9月,在聯(lián)想創(chuàng)新科技大會(huì)上,聯(lián)想發(fā)布“AI PC加速計(jì)劃”的同時(shí),基辛格向ISV們喊話,“要想知道‘殺手級(jí)’應(yīng)用是如何誕生的?答案是就差你們了。需要靠你們來共同塑造AI PC生態(tài),創(chuàng)造出殺手級(jí)應(yīng)用”。

誠然如此,殺手級(jí)應(yīng)用,對(duì)于AI PC來說就像能引爆行業(yè)的導(dǎo)火索。元宇宙時(shí)代,蘋果的Vision Pro成為了背后的導(dǎo)火索;而如今的AI PC時(shí)代,則要靠整個(gè)生態(tài)的完善。

不僅如此,要想把大模型裝進(jìn)PC,真正要解決的問題還包括模型壓縮技術(shù),與此同時(shí)還要保證硬件性能跟上,以及如何確保隱私安全性和軟硬件兼容等等問題。

那么,在如今數(shù)字化轉(zhuǎn)型的浪潮中,AI PC正逐漸成為科技巨頭們競相布局的藍(lán)海。微軟、聯(lián)想、英特爾、惠普、華為、小米等業(yè)界領(lǐng)航者,也正在以前瞻性的戰(zhàn)略眼光,描繪出AI PC的未來圖景。

首先,微軟視AI為未來操作系統(tǒng)的核心,計(jì)劃通過Windows的不斷進(jìn)化,使AI PC成為用戶的個(gè)人助理和生產(chǎn)力工具。目前,微軟正投資于先進(jìn)的機(jī)器學(xué)習(xí)模型,比如進(jìn)行更高效的數(shù)據(jù)處理、個(gè)性化服務(wù),加強(qiáng)云端協(xié)同等等。

而同樣也提到”個(gè)人助理”的還有聯(lián)想。其中,打造個(gè)人AI助理,提供個(gè)性化服務(wù),是聯(lián)想AI PC的戰(zhàn)略路線圖。另外,在生態(tài)方面,聯(lián)想也通過“AI PC加速計(jì)劃”,通過與軟硬件廠商合作,從而占據(jù)優(yōu)勢地位。

而英特爾作為芯片廠商,則是通過硬件創(chuàng)新,推動(dòng)AI PC進(jìn)步。對(duì)此,英特爾還計(jì)劃通過下一代CPU集成更強(qiáng)大的AI加速模塊,如更高效的神經(jīng)計(jì)算棒,為AI PC提供低延遲、高能效的計(jì)算能力。英特爾的愿景是使每臺(tái)PC都能成為邊緣計(jì)算節(jié)點(diǎn),實(shí)現(xiàn)本地?cái)?shù)據(jù)分析與即時(shí)反饋,同時(shí)與云端協(xié)同,為用戶提供無縫的AI體驗(yàn)。

最后,作為在AI PC領(lǐng)域的新興勢力,惠普、華為和小米則分別從AI企業(yè)解決方案、AI芯片和智慧家居IoT的角度,來共同參與AI PC的市場變革。

另外,在硬件側(cè),為了適應(yīng)AI PC市場,產(chǎn)業(yè)鏈上游的芯片側(cè)都需要進(jìn)行產(chǎn)業(yè)升級(jí)。比如,如何保證大模型能在端側(cè)有足夠的算力?這就需要操作系統(tǒng)也需要能夠滿足移動(dòng)場景下的算力需求,另外電池能耗、手機(jī)存儲(chǔ)等等問題也被一一擺到臺(tái)面。

據(jù)Trendforce,微軟計(jì)劃在Windows12為AIPC設(shè)置最低門檻,需要至少40TOPS算力和16GB內(nèi)存。而在芯片側(cè)也發(fā)生了結(jié)構(gòu)性的變化,比如架構(gòu)變化、異構(gòu)計(jì)算和內(nèi)存升級(jí)。

伴隨著英特爾、聯(lián)想和微軟等一眾國際廠商賦予AI PC的新概念,整個(gè)PC市場的爆發(fā)也將隨之而來。無論是站在提升生產(chǎn)力的角度,還是站在AI時(shí)代的大背景下,這一輪的AI變革必將點(diǎn)燃PC行業(yè)的熱情。

回顧AI大模型在國內(nèi)“狂飆”的兩年時(shí)間里,AI基建已經(jīng)逐漸走向成熟,而PC則正是讓AI落地的終極載體。原因很簡單,如今關(guān)于大模型的討論點(diǎn),已然從大模型本身升級(jí)為AI Agent、超級(jí)助理和智能體等等,那么能實(shí)現(xiàn)這一躍升的最佳載體便是PC端了。

如果站在人機(jī)交互變革的角度來暢想,AI PC所帶來的變革可以說是人機(jī)交互史上的又一次“顛覆”。元宇宙時(shí)代下,是蘋果讓AI裝進(jìn)了Vision Pro里;那么在如今的AI時(shí)代,又將會(huì)是誰將AI PC徹底照進(jìn)現(xiàn)實(shí)?誰才是最終贏家?

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請(qǐng)聯(lián)系原著作權(quán)人。

評(píng)論

暫無評(píng)論哦,快來評(píng)價(jià)一下吧!

下載界面新聞

微信公眾號(hào)

微博

AI PC后時(shí)代:重新理解大模型的最佳載體

人機(jī)交互變革再次引爆PC行業(yè)。

文|產(chǎn)業(yè)家 思杭

編輯|皮爺

埃尼亞克ENIAC——世界上第一臺(tái)電子計(jì)算機(jī),是二戰(zhàn)時(shí)期由六名女性主導(dǎo)編程出來的。那時(shí),包括她們?cè)趦?nèi)的所有女性都不得踏入ENIAC房間。站在當(dāng)下的現(xiàn)代社會(huì)去回看歷史,女性地位在當(dāng)時(shí)呈現(xiàn)出一種極端的狀態(tài)——這六名女性的名字在過去很長一段時(shí)間都不能出現(xiàn)在“功勞簿”上,盡管她們對(duì)于現(xiàn)代編程的意義尤為重大。

而這是歷史上出現(xiàn)的第一次人機(jī)交互。

在隨后的半個(gè)多世紀(jì)里,從施樂公司引領(lǐng)的“圖形用戶界面”變革,到蘋果公司引領(lǐng)的“觸摸交互界面”變革,歷史上的每一次人機(jī)交互變革都在全球PC市場上掀起過驚濤駭浪。這種演進(jìn)歷程除了帶給用戶實(shí)用性、娛樂性、便捷性以外,它所承載的更大暢想是一個(gè)數(shù)字版的“烏托邦”世界。

而今天的“AI變革”就是讓這一暢想在未來有一天會(huì)變成現(xiàn)實(shí)的載體。比如現(xiàn)在的電腦只是工具,而未來的電腦則可以是一個(gè)超級(jí)助手。它可以通過存儲(chǔ)用戶使用電腦的個(gè)人習(xí)慣和知識(shí),來代替用戶完成基本工作,甚至創(chuàng)意性工作。更重要的是,這種AI電腦的隱私性也不再是問題。

然而,在這種烏托邦式的“AI電腦”還未到來之前,幾個(gè)值得探討的問題是:如何將AI裝進(jìn)個(gè)人電腦里?個(gè)人電腦又如何能進(jìn)行大規(guī)模的AI計(jì)算?這對(duì)于芯片等硬件提出了怎樣的要求?硬件之外,軟件層又將會(huì)迎來哪些變革?

隨著一場由AI主導(dǎo)的人機(jī)交互變革再一次引爆PC市場,一系列問題也正在成為PC舞臺(tái)上的焦點(diǎn)。

端側(cè)大模型到底成色如何?

從手機(jī)的攝像頭到智能穿戴設(shè)備,從汽車到智能家居,每一個(gè)輸入和輸出點(diǎn)都可能成為AI施展拳腳的舞臺(tái)。

2023年初,在巴塞羅那舉行的MWC世界移動(dòng)通信大會(huì)上,期間榮耀發(fā)布了魔法OS 8.0、魔法大模型、Magic6 Pro手機(jī)等產(chǎn)品;高通和聯(lián)發(fā)科展示了更多AI能力的芯片。同年,三星、vivo、OPPO、榮耀、華為、小米等手機(jī)廠商開始將大模型能力應(yīng)用在手機(jī)產(chǎn)品上,AI手機(jī)加速滲透。

自此,一場發(fā)生在終端上的AI變革也正式拉響。先是手機(jī),然后是智能穿戴設(shè)備,再接下來是汽車、智能家居,似乎一切終端都可以和AI“相加”。

那么,為什么各種終端場景都在與AI結(jié)合?

從大模型的落地發(fā)展趨勢看,從云端向終端推進(jìn)是目前的重點(diǎn)發(fā)展方向之一。如果所有的部署方式都在云端,則需要通過終端訪問云端,雖然這種方式能夠保證有足夠的參數(shù)量和算力,但對(duì)于輕量化、低時(shí)延的任務(wù),顯然不具備優(yōu)勢。

而端側(cè)AI的核心也正在于,它能夠在不依賴云端服務(wù)器的情況下,快速響應(yīng)用戶需求,處理本地?cái)?shù)據(jù),保護(hù)用戶隱私。

但將大模型部署在端側(cè)仍然存在一些挑戰(zhàn)。最顯而易見的難題則是,如何保證端側(cè)大模型有足夠的算力支撐?

從目前市場上的端側(cè)大模型來看,一個(gè)符合常理的規(guī)律是:設(shè)備端越大(功能越多),其端側(cè)大模型的參數(shù)量也越大。

2024年2月,面壁智能聯(lián)合清華NLP實(shí)驗(yàn)室發(fā)布并開源端側(cè)大模型面壁MiniCPM,參數(shù)規(guī)模20億;

2023年9月,小米AI大模型亮相,參數(shù)規(guī)模13億;

2023年1月,榮耀發(fā)布端側(cè)平臺(tái)級(jí)AI大模型——魔法大模型,參數(shù)規(guī)模70億。

上述是部署在手機(jī)上的大模型,可以看到其參數(shù)規(guī)模并無法與如今位列海內(nèi)外第一梯隊(duì)的大模型相媲美。而對(duì)于功能更受限制的智能穿戴設(shè)備而言,其端側(cè)大模型的參數(shù)規(guī)模則只會(huì)比手機(jī)更小。但值得注意的是,榮耀的驍龍8則是搭載了有著70億參數(shù)規(guī)模的魔法大模型。

在過去與媒體的對(duì)話中,榮耀研發(fā)管理部總裁鄧斌也曾透露,“端側(cè)運(yùn)行大模型受算力、帶寬、功耗等影響,在端側(cè)運(yùn)行70億參數(shù)模型已經(jīng)到了極限?!?/p>

但在最近的2024北京車展上,商湯亮相的“日日新5.0”可以說是一個(gè)重磅炸彈。其采用混合專家架構(gòu)(MOE),是國內(nèi)首個(gè)全面對(duì)標(biāo)甚至超越GPT-4 Turbo的大模型,參數(shù)規(guī)模達(dá)到6000億。而這是一個(gè)更適合車端部署的端側(cè)大模型。

實(shí)際上,無論是榮耀的魔法大模型,還是商湯的日日新,端側(cè)大模型都有一個(gè)特點(diǎn),即參數(shù)大的大模型部署在端側(cè),一定會(huì)通過“蒸餾”技術(shù)把大模型進(jìn)行壓縮,再封裝到端側(cè)。

雖然大模型會(huì)隨著參數(shù)量的不斷增加,而開始“涌現(xiàn)”,并呈現(xiàn)出Scaling Law(規(guī)模效應(yīng)),這也是為什么現(xiàn)在大家都在拼參數(shù)的重要原因;但從模型應(yīng)用來看,模型的參數(shù)量并非越大越好。最理想的狀態(tài)應(yīng)該是:用盡量少的參數(shù)量,來實(shí)現(xiàn)盡可能好的效果。

因此,封裝到端側(cè)的大模型都需要進(jìn)行“蒸餾”處理。例如,Google的MobileBERT模型就通過知識(shí)蒸餾等技術(shù),大幅減少了模型參數(shù)量,使之更適合在移動(dòng)設(shè)備上部署。

另外,除了“蒸餾”處理以外,從手機(jī)向PC端進(jìn)化,則還需要能夠保證端側(cè)大模型正常運(yùn)行的芯片。實(shí)際上,過去一年半以來,已經(jīng)有不少芯片廠商推出了適用AI PC的芯片。

2023年10月,高通在驍龍峰會(huì)期間推出了面向PC打造的Arm架構(gòu)全新處理器:驍龍X Elite;

2023年12月14日,英特爾發(fā)布Meteor Lake的酷睿Ultra處理器,這是一款集成了人工智能加速引擎NPU的CPU;

2024年4月,AMD推出適用于商用筆記本電腦和臺(tái)式機(jī)的AI芯片——銳龍PRO處理器。

不僅僅是芯片,自英特爾于去年10月發(fā)布“AI PC加速計(jì)劃”以來,整條產(chǎn)業(yè)鏈的生態(tài)也正在顯現(xiàn)出自身的模樣。從獨(dú)立硬件供應(yīng)商到獨(dú)立軟件供應(yīng)商(ISV),隨著底層芯片和上層AI PC的“各就各位”,一些軟硬件兼容問題也將加速得到解決。

然而,兼容適配并非易事。不同設(shè)備的硬件配置千差萬別,操作系統(tǒng)、開發(fā)環(huán)境的多樣性,要求大模型必須具備高度的靈活性和可移植性。此外,部署在PC端的大模型還需要保證用戶隱私,這就要求在有效利用本地?cái)?shù)據(jù)進(jìn)行模型自適應(yīng)學(xué)習(xí)的基礎(chǔ)上,還要解決隱私性的問題。

誰在成為試水者?

“我們認(rèn)為AI PC是未來幾年P(guān)C市場的一個(gè)關(guān)鍵轉(zhuǎn)折點(diǎn)。”2023年9月,英特爾在加州圣何塞舉辦的“Innovation 2023”峰會(huì)上,其CEO基辛格首次提出AI PC概念。

這是英特爾的大型芯片發(fā)布會(huì)現(xiàn)場。而在展示其三代AI芯片路線圖的同時(shí),英特爾還特別強(qiáng)調(diào)了即將推出的酷睿Ultra處理器“Meteor Lake”,該處理器被英特爾視為40年來最重大的處理器架構(gòu)變革,也是一款能夠搭載AI PC上的芯片。

這款處理器不出意外地在2023年12月正式亮相。實(shí)際上,作為芯片巨頭,英特爾在AI PC的方面的進(jìn)展,一直都是從硬件層面出發(fā),通過集成AI加速器、優(yōu)化CPU架構(gòu),從而為AI應(yīng)用提供底層支持。

早在2018年,英特爾就開始了AI PC的布局。當(dāng)時(shí)的“雅典娜計(jì)劃”(Project Athena)便是其在AI PC上的一種嘗試,尤其是在電池管理、語音識(shí)別和安全性方面的優(yōu)化。比如英特爾的第11代酷睿處理器集成的GNA單元,專為低功率AI處理設(shè)計(jì)。

而在國際市場上,微軟則是一支不可忽視的力量。作為操作系統(tǒng)領(lǐng)域的領(lǐng)頭羊,微軟早在2019年便在其Windows 10系統(tǒng)中融入了AI元素,比如Cortana智能助手和機(jī)器學(xué)習(xí)驅(qū)動(dòng)的性能優(yōu)化功能。

“我們的目標(biāo)是讓每一臺(tái)Windows PC都能享受AI帶來的效率提升?!蔽④汣EO薩蒂亞·納德拉曾表示。

在AI PC的布局方面,微軟所側(cè)重的是操作系統(tǒng)層面上的智能化,比如通過Windows的更新迭代,不斷深化Cortana的功能,同時(shí)利用AI優(yōu)化系統(tǒng)性能和用戶體驗(yàn)。

而為了迎接“AI PC元年”,微軟也在今年3月推出了Surface Pro 10商用版和Surface Laptop 6商用版。

最后,在AI PC市場上真正走在前列的,則是國內(nèi)PC制造商“聯(lián)想”。2023年12月,聯(lián)想先是發(fā)布了AI Ready的AI PC產(chǎn)品,包括ThinkPad X1 Carbon AI和聯(lián)想小新Pro 16 AI酷睿版。這些產(chǎn)品搭載了Intel酷睿Ultra處理器,并配備了AI專屬芯片NPU,以提供強(qiáng)勁的本地混合AI算力。

“聯(lián)想AI PC將經(jīng)歷AI Ready階段,并在2024年邁入AI On階段,屆時(shí)每個(gè)人都將擁有自己的個(gè)人AI助理?!甭?lián)想集團(tuán)副總裁阿不力克木·阿不力米提曾在大會(huì)上這樣說道。

緊接著,2024年4月,聯(lián)想就再次發(fā)布AI PC新品,內(nèi)嵌個(gè)性化AI智能體的“聯(lián)想小天”正式亮相。

實(shí)際上,聯(lián)想對(duì)AI PC的構(gòu)想是將其打造為個(gè)人AI助理,提供個(gè)性化創(chuàng)作、私人秘書和設(shè)備管家服務(wù)。聯(lián)想AI PC的本地混合AI算力是其核心特征之一,具備內(nèi)嵌個(gè)人智能體實(shí)現(xiàn)多模態(tài)自然語言交互,以及個(gè)人大模型和本地知識(shí)庫。

早在2020年,聯(lián)想就推出了推出了搭載聯(lián)想智能引擎LCE的Yoga系列AI筆記本,旨在通過AI技術(shù)提升用戶體驗(yàn),如智能散熱調(diào)節(jié)、場景識(shí)別等。

可以看到,在AI PC的戰(zhàn)隊(duì)中,聯(lián)想屬于“務(wù)實(shí)派”,其更注重AI在實(shí)際應(yīng)用場景中的落地,通過其智能引擎LCE,實(shí)現(xiàn)在散熱、續(xù)航、交互等方面的智能優(yōu)化。

另外,除了聯(lián)想、微軟、英特爾等國際知名廠商,還有一個(gè)不得不提的PC制造商——蘋果。就在發(fā)稿前不久,蘋果迎來了一年一度的發(fā)布會(huì),而在本次發(fā)布會(huì)上,最驚艷的不過是專注于AI的M4芯片。

因此,從整體市場格局來看,一方面,聯(lián)想、微軟、英特爾等品牌正在憑借其自身影響力和技術(shù)積累,占據(jù)主導(dǎo)地位。雖然目前AI PC尚處于市場培育期,但各廠商也正在探索適合自己的路徑。

另一方面,華為、小米等新興勢力則正在憑借其在智能手機(jī)領(lǐng)域的AI經(jīng)驗(yàn),嘗試跨界進(jìn)入AI PC市場,通過整合軟硬件優(yōu)勢,形成新的競爭態(tài)勢。

而在模型層方面,目前主要是正在為開發(fā)者提供輕量級(jí)大模型的廠商,比如Google、面壁智能和Meta。

資料來源:各公司官網(wǎng),中金公司研究部

但未來,隨著模型壓縮、蒸餾等技術(shù)的技術(shù),更多復(fù)雜的大模型有望在PC端實(shí)現(xiàn)高效運(yùn)行,如OpenAI的GPT系列、阿里云的通義千問、騰訊混元、百度文心系列等等,都有可能成為端側(cè)AI PC的重要組成部分。

實(shí)際上,大模型的壓縮技術(shù)在市場上也得到了一些檢驗(yàn)。比如聯(lián)想基于大模型壓縮技術(shù),將LLM壓縮至輕量化模型進(jìn)行本地部署,目前Lenvo AI Now助手的大模型就來自阿里云的通義千問,從14.4GB的原始大模型壓縮到4GB,電腦配置5-6GB的內(nèi)存即可運(yùn)行。

那么,隨著產(chǎn)業(yè)鏈的愈加成熟,AI PC時(shí)代正在加速駛來。據(jù)IDC預(yù)測,AIPC有望在2027年滲透率達(dá)到85%。

可以預(yù)見的是,在AI成為時(shí)代潮流趨勢的當(dāng)下,這種由AI主導(dǎo)的變革也正在引爆PC市場。

AI PC的“未來暢想”

“AI PC元年”被提及得次數(shù)越來越多,但這個(gè)賽道還缺少一個(gè)“殺手級(jí)”應(yīng)用。

去年9月,在聯(lián)想創(chuàng)新科技大會(huì)上,聯(lián)想發(fā)布“AI PC加速計(jì)劃”的同時(shí),基辛格向ISV們喊話,“要想知道‘殺手級(jí)’應(yīng)用是如何誕生的?答案是就差你們了。需要靠你們來共同塑造AI PC生態(tài),創(chuàng)造出殺手級(jí)應(yīng)用”。

誠然如此,殺手級(jí)應(yīng)用,對(duì)于AI PC來說就像能引爆行業(yè)的導(dǎo)火索。元宇宙時(shí)代,蘋果的Vision Pro成為了背后的導(dǎo)火索;而如今的AI PC時(shí)代,則要靠整個(gè)生態(tài)的完善。

不僅如此,要想把大模型裝進(jìn)PC,真正要解決的問題還包括模型壓縮技術(shù),與此同時(shí)還要保證硬件性能跟上,以及如何確保隱私安全性和軟硬件兼容等等問題。

那么,在如今數(shù)字化轉(zhuǎn)型的浪潮中,AI PC正逐漸成為科技巨頭們競相布局的藍(lán)海。微軟、聯(lián)想、英特爾、惠普、華為、小米等業(yè)界領(lǐng)航者,也正在以前瞻性的戰(zhàn)略眼光,描繪出AI PC的未來圖景。

首先,微軟視AI為未來操作系統(tǒng)的核心,計(jì)劃通過Windows的不斷進(jìn)化,使AI PC成為用戶的個(gè)人助理和生產(chǎn)力工具。目前,微軟正投資于先進(jìn)的機(jī)器學(xué)習(xí)模型,比如進(jìn)行更高效的數(shù)據(jù)處理、個(gè)性化服務(wù),加強(qiáng)云端協(xié)同等等。

而同樣也提到”個(gè)人助理”的還有聯(lián)想。其中,打造個(gè)人AI助理,提供個(gè)性化服務(wù),是聯(lián)想AI PC的戰(zhàn)略路線圖。另外,在生態(tài)方面,聯(lián)想也通過“AI PC加速計(jì)劃”,通過與軟硬件廠商合作,從而占據(jù)優(yōu)勢地位。

而英特爾作為芯片廠商,則是通過硬件創(chuàng)新,推動(dòng)AI PC進(jìn)步。對(duì)此,英特爾還計(jì)劃通過下一代CPU集成更強(qiáng)大的AI加速模塊,如更高效的神經(jīng)計(jì)算棒,為AI PC提供低延遲、高能效的計(jì)算能力。英特爾的愿景是使每臺(tái)PC都能成為邊緣計(jì)算節(jié)點(diǎn),實(shí)現(xiàn)本地?cái)?shù)據(jù)分析與即時(shí)反饋,同時(shí)與云端協(xié)同,為用戶提供無縫的AI體驗(yàn)。

最后,作為在AI PC領(lǐng)域的新興勢力,惠普、華為和小米則分別從AI企業(yè)解決方案、AI芯片和智慧家居IoT的角度,來共同參與AI PC的市場變革。

另外,在硬件側(cè),為了適應(yīng)AI PC市場,產(chǎn)業(yè)鏈上游的芯片側(cè)都需要進(jìn)行產(chǎn)業(yè)升級(jí)。比如,如何保證大模型能在端側(cè)有足夠的算力?這就需要操作系統(tǒng)也需要能夠滿足移動(dòng)場景下的算力需求,另外電池能耗、手機(jī)存儲(chǔ)等等問題也被一一擺到臺(tái)面。

據(jù)Trendforce,微軟計(jì)劃在Windows12為AIPC設(shè)置最低門檻,需要至少40TOPS算力和16GB內(nèi)存。而在芯片側(cè)也發(fā)生了結(jié)構(gòu)性的變化,比如架構(gòu)變化、異構(gòu)計(jì)算和內(nèi)存升級(jí)。

伴隨著英特爾、聯(lián)想和微軟等一眾國際廠商賦予AI PC的新概念,整個(gè)PC市場的爆發(fā)也將隨之而來。無論是站在提升生產(chǎn)力的角度,還是站在AI時(shí)代的大背景下,這一輪的AI變革必將點(diǎn)燃PC行業(yè)的熱情。

回顧AI大模型在國內(nèi)“狂飆”的兩年時(shí)間里,AI基建已經(jīng)逐漸走向成熟,而PC則正是讓AI落地的終極載體。原因很簡單,如今關(guān)于大模型的討論點(diǎn),已然從大模型本身升級(jí)為AI Agent、超級(jí)助理和智能體等等,那么能實(shí)現(xiàn)這一躍升的最佳載體便是PC端了。

如果站在人機(jī)交互變革的角度來暢想,AI PC所帶來的變革可以說是人機(jī)交互史上的又一次“顛覆”。元宇宙時(shí)代下,是蘋果讓AI裝進(jìn)了Vision Pro里;那么在如今的AI時(shí)代,又將會(huì)是誰將AI PC徹底照進(jìn)現(xiàn)實(shí)?誰才是最終贏家?

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請(qǐng)聯(lián)系原著作權(quán)人。