12月26日,界面新聞獨家獲悉,小米正在著手搭建自己的GPU萬卡集群,將對AI大模型大力投入。小米大模型團隊在成立時已有6500張GPU資源。 知情人士對界面新聞記者表示,該計劃已經(jīng)施行數(shù)月之久,雷軍在其中扮演了重要的領導角色?!霸贏I硬件這件事情上,最核心的是手機而不是眼鏡,小米在這個領域不‘a(chǎn)ll in’是不可能的?!?/p>
【機會前瞻】
12月26日,界面新聞獨家獲悉,小米正在著手搭建自己的GPU萬卡集群,將對AI大模型大力投入。小米大模型團隊在成立時已有6500張GPU資源。雖然對此小米暫未置評,但是小米對AI大模型的重視度提升此前已有信號。12月20日,據(jù)第一財經(jīng)報道,DeepSeek開源大模型DeepSeek-V2的關鍵開發(fā)者之一羅福莉將加入小米,或供職于小米AI實驗室,領導小米大模型團隊。
小米作為具有應用端優(yōu)勢的科技公司,AI布局較早,大模型戰(zhàn)略也被視為小米“人車家”戰(zhàn)略的重要支撐。2023年5月組建了AI實驗室大模型團隊,擁有超過1200名相關人員,并計劃不斷挖掘AI相關的用戶場景。2023年8月,小米集團公告顯示,AI是公司長期投入的底層賽道,其60億參數(shù)的自研大模型在同參數(shù)量級中排名第一。11月,小米披露將AI大模型與小米澎湃OS深度融合,為用戶提供基于端側大模型的各類便利和智能功能。
小米集團創(chuàng)始人雷軍曾公開表示:“我們做大模型的思路可能和很多公司不太一樣,我們選擇主力突破的是輕量化和本地部署?!边@一戰(zhàn)略選擇不僅基于成本考量,也符合小米用戶的使用習慣和技術需求。小米通過將AI推理場景轉移到端側,即用戶的個人設備上,可以更接近用戶數(shù)據(jù),實現(xiàn)更有效的訓練,同時顯著降低云端算力的開支。
此次,小米大力投入搭建萬卡集群投入大模型領域,也是大勢所趨。所謂萬卡集群,即由一萬張及以上的加速卡組成的高性能計算系統(tǒng),對于訓練基礎大模型至關重要。這種集群的建設成本高達百億元,其中GPU采購成本就達幾十億元。國際上,OpenAI、Meta等科技巨頭都在積極部署萬卡集群;在國內,運營商、頭部互聯(lián)網(wǎng)大廠、大型AI研發(fā)企業(yè)等也紛紛入局,部分巨頭甚至已開始邁向“十萬卡集群”。