文|數(shù)智前線 黃幸怡
編輯|游勇
01 ChatGPT里的清華元素
OpenAI旗下大語言模型ChatGPT的成功讓人眼前一亮,更讓外界意想不到的是,這個產(chǎn)品不是出自擁有數(shù)千名人工智能團(tuán)隊的谷歌或者Facebook,而是僅成立8年只有三百多人的OpenAI。
來自全球各地的頂尖人才為OpenAI和ChatGPT的成功奠定了基礎(chǔ)。今年1月,OpenAI創(chuàng)始人及CEO奧特曼透露公司員工人數(shù)為375人 ,與谷歌和臉書等科技巨頭從事人工智能工作的數(shù)千名員工相比,這是一個很小的數(shù)字?!拔抑牢也粦?yīng)該吹噓OpenAI,我們要感謝我們所有的外包公司為訓(xùn)練模型提供了必不可少的數(shù)據(jù)?!?/p>
而真正在ChatGPT項目中做出貢獻(xiàn)的人員,據(jù)OpenAI官網(wǎng)顯示,共有87人。ChatGPT只是OpenAI其中的一個項目,比如OpenAI之前發(fā)布的文本生成圖像的大模型DALL-E,兩個半月注冊人數(shù)突破100萬,也在人工智能領(lǐng)域備受關(guān)注。
在最近一份由智譜研究聯(lián)合AMiner發(fā)布的《ChatGPT團(tuán)隊背景研究報告》中,這群人的顯著特征被歸納為了“年紀(jì)很輕”、“背景豪華”、“聚焦技術(shù)”、“積累深厚”、“崇尚創(chuàng)業(yè)”和“華人搶眼”幾個方面。
智譜研究發(fā)布的報告顯示,該團(tuán)隊平均年齡為32歲,“90后”是主力軍。作為全球人工智能頂尖研發(fā)團(tuán)隊,其成員絕大多數(shù)擁有名校學(xué)歷,但也并非“清一色”研究生學(xué)歷,而是本、碩、博人數(shù)相對均衡。同時,其成員大多具有全球知名企業(yè)工作經(jīng)歷,其中,從谷歌跳槽而來的有10人,是為其貢獻(xiàn)最多人才的外部企業(yè)(ChatGPT基于的也是谷歌提出的Transformer模型)。作為應(yīng)屆生直接加入ChatGPT 團(tuán)隊的也有11人,但不論是來自其他企業(yè),還是作為應(yīng)屆生加入的人員,背景都相當(dāng)“豪華”。
而在技術(shù)上,該團(tuán)隊共有包括OpenAI 聯(lián)合創(chuàng)始人Wojciech Zaremba在內(nèi)的5人入選了今年“AI 2000 全球人工智能學(xué)者”名單。該名單由AMiner 每年推出,評選出全球人工智能 20個細(xì)分領(lǐng)域前 100 名最具影響力學(xué)者。這意味著,在 ChatGPT 不足百人的團(tuán)隊中,就有 5 人屬于全球人工智能各領(lǐng)域頂尖學(xué)者,技術(shù)積累深厚。
此外,最值得一提的是,華人成為了該團(tuán)隊中一支重要的科技創(chuàng)新力量,共9人,占團(tuán)隊總?cè)藬?shù)的比例超10%。華人學(xué)者歐陽龍更是參與了與 ChatGPT 相關(guān)的 7 大技術(shù)項目中的 4 大項目的研發(fā),是InstructGPT 論文的第一作者,也是RLHF 論文的第二作者?!翱梢娝沁@兩個關(guān)鍵技術(shù)項目的核心人員?!敝亲V研究分析稱。
在華人團(tuán)隊中,有5人本科就讀于中國內(nèi)地高校,其中3人(翁家翌、趙盛佳、袁啟明)均來自于清華大學(xué),并各有1人本科畢業(yè)于華中科技大學(xué)、北京大學(xué)/香港大學(xué)。不過,這5人后續(xù)均在海外高校繼續(xù)深造。
其中,翁家翌是ChatGPT團(tuán)隊里最年輕的研發(fā)工程師之一。他于2020年從清華大學(xué)計算機(jī)系本科畢業(yè),進(jìn)入卡內(nèi)基梅隆大學(xué)攻讀碩士學(xué)位。在清華期間,翁家翌曾加入清華大學(xué)人工智能研究院基礎(chǔ)理論研究中心主任朱軍領(lǐng)導(dǎo)的TSAIL實驗室,并在大三暑假加入加拿大圖靈獎獲得者 Yoshua Bengio 的實驗室,深入開展RL和NLP的研究。其更是一度以本科生身份,成為基于 PyTorch 的強(qiáng)化學(xué)習(xí)算法庫 Tianshou(天授)的第一作者。
清華大學(xué)也以3名成員的數(shù)量,與卡內(nèi)基梅隆大學(xué)一起,并列ChatGPT團(tuán)隊畢業(yè)院校的第7名。排在他們之前的分別是斯坦福大學(xué)(14 人)、加州大學(xué)伯克利分校(10 人)、麻省理工學(xué)院(7 人)、劍橋大學(xué)(5 人)、哈佛大學(xué)(4 人)和佐治亞理工學(xué)院(4 人)。
02 清華走出的人工智能大牛
ChatGPT團(tuán)隊中出現(xiàn)不少的華人力量和清華元素令人意外。但實際上,華人尤其是清華系,早已成為全球人工智能領(lǐng)域中的一個中堅力量。
2021年,AMiner曾根據(jù)AI2000人工智能全球最具影響力學(xué)者榜單,結(jié)合學(xué)者H-指數(shù)、論文數(shù)和影響因子,并經(jīng)過去重處理后發(fā)現(xiàn),過去十年,全球為AI發(fā)展貢獻(xiàn)了力量的高層次學(xué)者共有1833位。這些人工智能領(lǐng)域的技術(shù)大牛共覆蓋了37個國家,其中,美國1244人,占比62.2%,中國以196名位列第二,遠(yuǎn)超以113名排在第三的德國。
而在這196名華人學(xué)者中,無論是本碩博畢業(yè)院校,清華大學(xué)都排在最前列。如本科畢業(yè)于清華的有41位,排在其后的分別是中國科技大學(xué)(21位)、北京大學(xué)(19位);碩士階段畢業(yè)院校中,國外的麻省理工和伊利諾伊大學(xué)進(jìn)入前十;到博士階段,排名前十的院校中,國外高校整體數(shù)量則進(jìn)一步增加到一半占比。
類似的情形依然還在上演。在最新的“AI2000全球人工智能學(xué)者”名單人工智能細(xì)分板塊下,以“在某個領(lǐng)域的頂級期刊和會議上發(fā)表的論文的總引文數(shù)”作為排序標(biāo)準(zhǔn)的榜單前100學(xué)者中,共有19名華人,占比約為兩成,前10榜單中,華人學(xué)者占比更是達(dá)到了四成。
其中,位列第一的何凱明,本科就讀于清華大學(xué),博士畢業(yè)于香港中文大學(xué)多媒體實驗室,并在2011年加入微軟亞洲研究院(MSRA),主要從事計算機(jī)視覺和深度學(xué)習(xí)研究,后來又在2016年,加入Facebook AI Research(FAIR)擔(dān)任研究科學(xué)家。
國內(nèi)人工智能的創(chuàng)業(yè)公司里也有不少清華的身影。
被稱為“AI四小龍”的曠視科技,其CEO印奇、CTO唐文斌和高級副總裁楊沐均畢業(yè)于清華大學(xué)計算機(jī)科學(xué)實驗班,也即傳言中“狀元擠破頭都進(jìn)不去”的“姚班”,師從2000年圖靈獎獲得者,同時也是唯一一個獲得該獎項的中國人——姚期智。而當(dāng)他們在2011年創(chuàng)業(yè)時,印奇才不過23歲,唐文斌24歲,楊沐22歲。
同屬于“AI四小龍”的商湯科技,雖然創(chuàng)始人湯曉鷗并非出自“清華系”,而是在中科大完成本科學(xué)業(yè)后外出留學(xué),但聯(lián)合創(chuàng)始人之一的楊帆卻先后在清華大學(xué)獲得了電子工程學(xué)學(xué)士學(xué)位及碩士學(xué)位,001號員工徐持衡則是在高二通過奧賽保送至了清華,并在2013年大學(xué)畢業(yè)后加入湯曉鷗的實驗室,后來成為商湯科技的聯(lián)合創(chuàng)始人、001 號員工。而在去年從商湯執(zhí)行研究總監(jiān)崗位上離職回到母校任職的代季峰,同樣來自于清華,并在清華一路攻讀到博士以后,一度進(jìn)入微軟亞洲研究院工作5年之久。
不過,無論是商湯還是曠視主攻的方向是機(jī)器視覺,而不是自然語言處理。而這兩家企業(yè)也遇到了人工智能技術(shù)不好落地和商業(yè)變現(xiàn)難的窘境,一直以來虧損比較嚴(yán)重。
在此之外,據(jù)不完全統(tǒng)計,包括同是“姚班”學(xué)生的小馬智行聯(lián)合創(chuàng)始人兼CTO樓天城、英語流利說創(chuàng)始人兼CEO王翌、地平線聯(lián)合創(chuàng)始人兼CTO黃暢、兆易創(chuàng)新創(chuàng)始人兼CEO朱一明、被賽靈思收購的深鑒科技創(chuàng)始團(tuán)隊姚頌、汪玉、韓松、單羿等諸多人工智能領(lǐng)域創(chuàng)業(yè)公司的創(chuàng)始人和聯(lián)合創(chuàng)始人均畢業(yè)于清華。而在更早之前的搜狗創(chuàng)始人王小川也是畢業(yè)于清華大學(xué)計算機(jī)系。
各大廠的AI業(yè)務(wù)線同樣有不少來自清華的大牛。如華為云人工智能領(lǐng)域首席科學(xué)家田奇,阿里巴巴平頭哥首席科學(xué)家、達(dá)摩院高級研究員謝源,京東集團(tuán)副總裁兼京東人工智能研究院常務(wù)副院長、深度學(xué)習(xí)及語音和語言實驗室負(fù)責(zé)人何曉冬等。
03 為什么是清華?
1956年,美國新罕布什爾州的達(dá)特茅斯學(xué)院里,一群科學(xué)家正聚在一起討論一個看起來有點(diǎn)異想天開的話題——如何用機(jī)器來模仿人類學(xué)習(xí)及其他方面的先進(jìn)智能。這場會議足足開了兩個月后,大家并沒有能夠達(dá)成普遍共識,但卻為討論的內(nèi)容起了一個名字:人工智能。
這一年,最終成為了公認(rèn)的人工智能元年,一個新科技時代的序幕由此拉開。
當(dāng)人工智能概念開始在大洋彼岸點(diǎn)燃星星之火時,中國也出臺《十二年科技發(fā)展遠(yuǎn)景規(guī)劃》,開始了大踏步追趕世界先進(jìn)科學(xué)技術(shù)水平的歷程。清華大學(xué)計算機(jī)系的前身“自動控制系”也在兩年后正式成立。同年,后來的中國人工智能奠基人之一、中科院院士張鈸從清華大學(xué)自動控制系畢業(yè),成為國家第一批自動控制專業(yè)畢業(yè)生,并開始留校擔(dān)任教學(xué)任務(wù)。
但一直到23年后的1981年,張鈸才作為訪問學(xué)者在美國伊利諾依大學(xué)進(jìn)行人工智能、智能機(jī)器人的研究工作時,和當(dāng)時在安徽大學(xué)任教的數(shù)學(xué)家張鈴一起通過長期的跨國合作,聯(lián)手完成了一篇人工智能領(lǐng)域的論文,并發(fā)表在人工智能領(lǐng)域頂級國際期刊《IEEE模式分析與機(jī)器智能匯刊》上。這也成為了中國科學(xué)家在人工智能領(lǐng)域的第一篇學(xué)術(shù)論文。
科研上”跨國交流“尚且不夠,張鈸還通過直接將伊利諾伊大學(xué)使用的教材和相關(guān)材料全部復(fù)印并寄回國內(nèi)的方式,跨國豐富了清華大學(xué)計算機(jī)系的教研工作。而后,“智能機(jī)器人”實驗室等相關(guān)實驗室也逐漸在清華建立起來。
盡管一直到21世紀(jì)初,人工智能在國內(nèi)依然不溫不火。但較早開展AI技術(shù)研究無疑是清華后來能在人工智能領(lǐng)域有優(yōu)異表現(xiàn)的重要原因。
張鈸后來曾在談及清華大學(xué)在人工智能方面的優(yōu)勢時提到,清華大學(xué)是最早在中國開展人工智能研究的單位之一,基礎(chǔ)理論方面比較強(qiáng),且一開始就集中力量進(jìn)行AI基礎(chǔ)理論的研究;第二點(diǎn)則在于人工智能是一個交叉性尤其明顯的學(xué)科,而清華由于較早介入了相關(guān)研究,相關(guān)交叉學(xué)科實力比較強(qiáng)。
實際上,學(xué)科交叉這件事,與姚班創(chuàng)辦人姚期智不無關(guān)系。早在2010年底,姚期智就率先成立了清華交叉信息研究院,自己親任院長,力圖將量子物理、生物醫(yī)學(xué)、經(jīng)濟(jì)金融等領(lǐng)域和計算機(jī)科學(xué)的技術(shù)結(jié)合起來。
如今AI領(lǐng)域的“清華系”人工智能大牛們,也有大量出自姚期智2005年創(chuàng)辦的姚班。如曠視科技的印奇、唐文斌、楊沐,小馬智行的樓天城等。2019年和2021年,姚班還在清華分別增設(shè)了人工智能班(“智班”)、量子信息班(“量信班”),并在2022年8月將姚班、智班、量信班合而為一,重新統(tǒng)稱姚班(即計算機(jī)科學(xué)實驗班)。
而“姚班”其實也是清華大學(xué)“加強(qiáng)國際合作與交流”工作的一項突出成果。過去二十多年間,清華利用企業(yè)贊助的資金,邀請世界著名的教授來參與清華的培養(yǎng)工作。姚期智正是清華計算機(jī)系第一期(2003-2006年)講席教授組首席教授。
更重要的是,清華的研發(fā)資金相對“寬?!?。除國家投入之外,常常有不少清華校友“慷概解囊”。王小川就曾在2016年4月,清華大學(xué)105周年紀(jì)念日時,向母校捐贈了1.8億元,并聯(lián)合清華成立了清華大學(xué)天工智能計算研究院,用以研究人工智能相關(guān)的前沿技術(shù)。在平時,王小川和搜狗更是長期資助清華大學(xué)的智能體比賽,鼓勵清華學(xué)生寫程序和玩游戲。
這些都在促使清華大學(xué)計算機(jī)系在一些國際榜單上的排名大幅提升。例如在U.S.News2019年世界大學(xué)計算機(jī)科排行榜TOP10中,清華大學(xué)曾以總分100分的成績位居榜首,同年進(jìn)入前十的國內(nèi)高校還有華中科技大學(xué)(第6)、浙江大學(xué)(第9)和東南大學(xué)(第10)。在CSRankings以計算機(jī)領(lǐng)域各大頂會的論文數(shù)量為衡量指標(biāo)更新的2020-2021年排名中,清華和北大則力壓CMU,分別排在了第1、2位。
正常人才培養(yǎng)之外,清華還孵化了大量的AI創(chuàng)業(yè)團(tuán)隊。如成立于2018年7月的人工智能技術(shù)和行業(yè)解決方案提供商“瑞萊智慧(RealAI),孵化自清華大學(xué)人工智能研究院,至今已完成5輪融資,最近一次是2021年底的近億元戰(zhàn)略融資,并由清華大學(xué)人工智能研究院院長張鈸擔(dān)任首席科學(xué)家。智譜研究背后的智譜AI同樣孵化自清華,由清華大學(xué)計算機(jī)系的技術(shù)成果轉(zhuǎn)化而來。
當(dāng)然,在人工智能領(lǐng)域發(fā)光發(fā)熱的并不止清華。一位行業(yè)內(nèi)人士透露,浙江大學(xué)、上海交大、北大、華中科技大學(xué)等高校這些年都在培養(yǎng)人工智能技術(shù)人才上比較突出。
此外,值得注意的是,最近一兩年來,學(xué)界正在掀起一股“學(xué)術(shù)大佬回歸潮”,其中不乏人工智能領(lǐng)域的大牛。如人工智能專家朱松純在2020年回國擔(dān)任了清華大學(xué)基礎(chǔ)科學(xué)講席教授、北京大學(xué)講席教授,2021年出任北京大學(xué)智能學(xué)院院長、清華大學(xué)通用人工智能研究院(籌)院長。
在ChatGPT爆火之后,國內(nèi)一度有些“技不如人”的失落,同時也在期盼著中國的ChatGPT和OpenAI。正如王小川在朋友圈所言:“OpenAI的成功,首先是技術(shù)理想主義的勝利。中國需要自己的OpenAI,就需要技術(shù)理想主義。大廠受自己的業(yè)務(wù)牽引,追逐資本熱點(diǎn)的創(chuàng)業(yè)公司更動作變形。不止如此,這種理想主義還需要有愛國之心、商業(yè)智慧和學(xué)術(shù)尊重去獲得政府支持,推動企業(yè)聯(lián)盟和學(xué)術(shù)界協(xié)同。中國能誕生自己的OpenAI”。
參考資料:
1、《ChatGPT團(tuán)隊背景研究報告》,AMiner、智譜研究,2023.02
2、《華人AI學(xué)者大盤點(diǎn):清華培養(yǎng)了最多的高層次人才,韓家煒、吳恩達(dá)論文被引數(shù)“登頂”》,學(xué)術(shù)頭條,2021.02
3、《馬少平、周楓、王小川、樓天城、唐文斌……清華計算機(jī)系與人工智能的40年》,清華小五爺園,2018.04
4、《清華辦 AI:除了洞見,更有沉淀》,AI科技評論,2020.04