文｜雷科技
2023年10月4日，Google在紐約舉辦了「Made by Google」硬件發(fā)布會(huì)，并正式發(fā)布了Pixel 8和Pixel 8 Pro。Pixel 8系列作為首批搭載Android 14系統(tǒng)的手機(jī)，據(jù)官方介紹其最大亮點(diǎn)就是AI功能。在發(fā)布會(huì)持續(xù)的一小時(shí)內(nèi)，「AI」一詞被提及超過(guò)50次，可見(jiàn)Google對(duì)這一功能的重視，以及AI是Pixel 8核心賣(mài)點(diǎn)的事實(shí)。
然而讓人意外的是，日前Google以「硬件限制」為理由，拒絕在Pixel 8上運(yùn)行最新的人工智能模型「Gemini Nano」。Google隨后宣布即將在6月的季度更新中為Pixel 8提供「Gemini Nano」功能，但用戶(hù)只能在隱藏的開(kāi)發(fā)者選項(xiàng)中開(kāi)啟。
對(duì)于此事，谷歌設(shè)備和服務(wù)軟件副總裁Seang Chau解釋稱(chēng)，為了能隨時(shí)調(diào)用「Gemini Nano」模型，部分AI模型會(huì)常駐內(nèi)存。而Pixel 8只有8GB內(nèi)存，如果貿(mào)然啟用「Gemini Nano」功能，很可能會(huì)影響用戶(hù)的使用體驗(yàn)。與之相反，Pixel 8 Pro擁有12GB內(nèi)存，能比較好地釋放AI模型性能。
從Seang Chau的回復(fù)來(lái)看，Pixel 8并不是不能使用「Gemini Nano」，而是使用后會(huì)占用大量手機(jī)系統(tǒng)內(nèi)存，導(dǎo)致其他應(yīng)用的體驗(yàn)感下降。作為參考，三星Galaxy S24系列8GB內(nèi)存版本就可運(yùn)行Gemini Nano模型，而沒(méi)有這方面的限制。
“一刀切”能否克服端側(cè)大模型劣勢(shì)？
目前，大模型已經(jīng)成為手機(jī)廠商們的「必爭(zhēng)之地」，小米、華為、榮耀、OPPO、vivo等手機(jī)廠商均已發(fā)布搭載大模型的旗艦機(jī)型。像華為的盤(pán)古大模型、小米的MiLM、OPPO的安第斯大模型、vivo的藍(lán)心大模型以及榮耀的魔法大模型，也隨著新機(jī)發(fā)布首次走進(jìn)消費(fèi)者的視野。在以上大模型解決方案中，有以云端為主的，也有云端與端側(cè)相結(jié)合的，但幾乎沒(méi)有純端側(cè)的大模型。
所謂的「端側(cè)」，指的是將大模型服務(wù)布置在手機(jī)設(shè)備內(nèi)部的芯片之中，僅利用芯片的算力生成結(jié)果。與云端大模型相比，這種方案的優(yōu)勢(shì)是不需要聯(lián)網(wǎng)，因此數(shù)據(jù)不用上傳至云端，減少了泄露風(fēng)險(xiǎn)，并在一定程度上減輕了云成本。
但純端側(cè)方案也有其不可忽視的劣勢(shì)，就是算力有限。如果手機(jī)設(shè)備只是接入云端大模型，自然不需要終端設(shè)備擁有多強(qiáng)的算力和AI芯片，但如果在手機(jī)本地運(yùn)營(yíng)端側(cè)大模型，則對(duì)算力有著極高的要求。盡管從理論上來(lái)說(shuō)，常規(guī)手機(jī)芯片中的GPU、CPU都能進(jìn)行并行計(jì)算，但在效率和能耗控制方面仍比不上AI芯片中專(zhuān)門(mén)用于AI加速計(jì)算的NPU/TPU等神經(jīng)處理單元，更別提動(dòng)輒擁有幾百上千張頂級(jí)顯卡的云端后臺(tái)了。
而Google的「Gemini Nano」在發(fā)布之初，就已經(jīng)將其定位為在移動(dòng)設(shè)備上本地運(yùn)行的端側(cè)大模型，并且其內(nèi)置在Android 14系統(tǒng)中。也就是說(shuō)，未來(lái)如果其他開(kāi)發(fā)者想通過(guò)AICore API直接調(diào)用其他Android手機(jī)的Gemini AI能力，將會(huì)遇到與Pixel 8相同的硬件要求問(wèn)題。
在雷科技看來(lái)，Google之所以限制Pixel 8調(diào)用Gemini Nano模型，一方面是擔(dān)心Gemini Nano模型在占用大量手機(jī)系統(tǒng)內(nèi)存后，影響用戶(hù)使用其他應(yīng)用程序時(shí)的體驗(yàn)感，為了保險(xiǎn)起見(jiàn)，干脆直接一刀切；另一方面，Pixel 8標(biāo)準(zhǔn)版與Pixel 8 Pro標(biāo)準(zhǔn)版的售價(jià)相差大約2000元，在核心配置相差不大的情況下，AI功能或許能驅(qū)使目標(biāo)用戶(hù)選擇更貴的Pixel 8 Pro。
內(nèi)存壓縮技術(shù)，是端側(cè)大模型的必經(jīng)之路？
我們暫且不討論運(yùn)行內(nèi)存對(duì)端側(cè)大模型的影響是否真的有那么大，站在行業(yè)角度，如何在算力有限的手機(jī)上實(shí)現(xiàn)較好的大模型效果，是所有手機(jī)廠商都需要考慮的問(wèn)題。
此前微軟推出的Copilot Pro訂閱服務(wù)對(duì)AI PC的算力和內(nèi)存提出了明確要求，但在AI手機(jī)領(lǐng)域，至今還沒(méi)有任何一家企業(yè)給出大模型手機(jī)的類(lèi)似標(biāo)準(zhǔn)。
或許大部分人都不知道，其實(shí)最早被曝出規(guī)劃手機(jī)端側(cè)路線的企業(yè)，是至今仍未在iPhone用上大模型的蘋(píng)果。蘋(píng)果在招聘介紹中提及了本地推理引擎中實(shí)現(xiàn)壓縮和加速大模型的相關(guān)要求，雖然iOS 18還未正式推出，但蘋(píng)果對(duì)AI大模型的探索從其取得的專(zhuān)利就能窺見(jiàn)一二。
日前，蘋(píng)果研究團(tuán)隊(duì)發(fā)表了一篇關(guān)于「如何解決大模型手機(jī)內(nèi)存不足」的論文。簡(jiǎn)單來(lái)說(shuō)，研究團(tuán)隊(duì)嘗試用閃存技術(shù)減少數(shù)據(jù)加載，并且優(yōu)化數(shù)據(jù)塊大小提高閃存吞吐量，最后實(shí)現(xiàn)對(duì)加載到內(nèi)存中數(shù)據(jù)的高效管理。
毫無(wú)疑問(wèn)，這是解決端側(cè)部署大模型關(guān)鍵問(wèn)題的可行方案。整個(gè)過(guò)程的重點(diǎn)是優(yōu)化閃存交互和內(nèi)存管理，在實(shí)驗(yàn)過(guò)程中，運(yùn)用閃存技術(shù)的大模型延遲毫秒僅為原來(lái)的1/10。但論文提供方案僅針對(duì)60億-70億參數(shù)的模型，暫時(shí)無(wú)法完美處理超出參數(shù)范圍的大模型。不過(guò)該方案給所有廠商提供了一個(gè)全新思路，未來(lái)完全有可能通過(guò)閃存技術(shù)解決端側(cè)大模型內(nèi)存不足的問(wèn)題。
除了存儲(chǔ)技術(shù)外，芯片廠商也從自身角度給出了可行的解決方案。2023年11月，聯(lián)發(fā)科發(fā)布了號(hào)稱(chēng)「生成式AI移動(dòng)芯片」的新一代旗艦SoC——天璣9300。針對(duì)億級(jí)參數(shù)級(jí)別的大模型，天璣9300采用內(nèi)存壓縮技術(shù)「NeuroPilot Compression」，據(jù)官方介紹，該技術(shù)可以更高效地利用內(nèi)存，大幅減少AI大模型對(duì)設(shè)備內(nèi)存的占用，最高支持運(yùn)行330億參數(shù)的AI大模型。
目前，vivo X100、OPPO Find X7、iQOO Neo9 Pro等機(jī)型均搭載了天璣9300處理器。其中聯(lián)發(fā)科與vivo合作，已經(jīng)實(shí)現(xiàn)了10億、70億、130億參數(shù)的AI大語(yǔ)言模型的運(yùn)行，此外，天璣9300還成功集成了通義千問(wèn)大模型。
相比起云端，端側(cè)的運(yùn)行特性無(wú)疑更容易令消費(fèi)者放心。要提升端側(cè)大模型的實(shí)際表現(xiàn)，離不開(kāi)手機(jī)廠商和硬件廠商的共同努力，閃存技術(shù)和內(nèi)存壓縮技術(shù)能有效解決大模型占用內(nèi)存的問(wèn)題，未來(lái)估計(jì)會(huì)被更多品牌采用。
為大模型鋪路，大內(nèi)存手機(jī)將加速普及
端側(cè)大模型占手機(jī)內(nèi)存，用戶(hù)怎么辦？其實(shí)這是一個(gè)“想要什么”的問(wèn)題。如果為了享受大模型功能，則需放棄手機(jī)原有的部分體驗(yàn)，現(xiàn)階段絕大多數(shù)AI大模型其實(shí)并沒(méi)有多少真正實(shí)用的功能，大多數(shù)手機(jī)用戶(hù)充其量只是嘗嘗鮮，如果非要在非必須功能與手機(jī)體驗(yàn)之間進(jìn)行二選一，相信選擇手機(jī)體驗(yàn)的用戶(hù)還是占大多數(shù)。
面對(duì)無(wú)法從根源解決大模型占用內(nèi)存問(wèn)題的情況，大內(nèi)存就會(huì)成為用機(jī)體驗(yàn)和AI大模型功能兼顧的第二道保障。當(dāng)前安卓手機(jī)的最低內(nèi)存配置普遍為8GB，最高內(nèi)存容量已經(jīng)來(lái)到24GB，主流旗艦機(jī)型基本以12GB和16GB內(nèi)存為主。如果以Google Pixel 8 Pro的12GB內(nèi)存作為當(dāng)前運(yùn)行端側(cè)大模型的內(nèi)存標(biāo)準(zhǔn)，那么絕大多數(shù)手機(jī)品牌的主流旗艦還是過(guò)關(guān)的。
實(shí)際上，內(nèi)存占用最多只能算是大模型進(jìn)步過(guò)程中遇到的技術(shù)難題，只要繼續(xù)發(fā)展相信這類(lèi)問(wèn)題終究會(huì)迎刃而解。但無(wú)論是端側(cè)還是云端，大模型手機(jī)最需要搞清楚的核心問(wèn)題仍是「用戶(hù)是否真的需要大模型」。
大模型手機(jī)作為去年手機(jī)行業(yè)最熱門(mén)的技術(shù)方向，幾乎每家手機(jī)品牌的技術(shù)展會(huì)以及發(fā)布會(huì)都會(huì)提及相關(guān)技術(shù)。但在門(mén)店等線下渠道，雷科技卻很少看到有品牌會(huì)將大模型放置在海報(bào)、卡片等宣傳物料上。誠(chéng)然，線下渠道確實(shí)不太好展示大模型的相關(guān)功能，但也能一定程度上反映出手機(jī)廠商們對(duì)當(dāng)前大模型手機(jī)的態(tài)度，或許他們也清楚現(xiàn)階段的大模型功能還很難在線下場(chǎng)景直接影響消費(fèi)者購(gòu)物。
大模型手機(jī)的技術(shù)水平仍處于初期發(fā)展階段，手機(jī)廠商還在不斷探索大模型與智能手機(jī)的結(jié)合?？梢赃@么說(shuō)：大模型能為智能手機(jī)帶來(lái)的潛在價(jià)值，不亞于功能機(jī)到智能機(jī)的更替。至于大模型手機(jī)是否真的成為跟智能手機(jī)平行的新物種？不如讓我們將答案交給時(shí)間。