界面新聞記者 | 彭新
就在阿爾特曼(Sam Altman)在拉斯維加斯出席上周末的體育盛會——F1大賽時,收到了一條谷歌會議鏈接。
點(diǎn)開這條鏈接之前,阿爾特曼像一位搖滾明星般被世人矚目。一年前他所在的公司OpenAI發(fā)布了ChatGPT、徹底敲開了AI時代的大門后,阿爾特曼一直在公開場合露面——舉辦發(fā)布會,開啟公司宏大的商業(yè)化進(jìn)程;與各國政要會面,確定全球AI政策議程;他還將敲定一筆融資,對OpenAI的估值將達(dá)到860億美元,是今年早些時候的近三倍。
回到酒店,他加入了會議,發(fā)現(xiàn)公司董事會成員都在盯著他。不妙的是,自己最親密的盟友、OpenAI董事長、CTO布羅克曼(Greg Brockman)也不在場,董事會成員、OpenAI首席科學(xué)家伊利亞·蘇茨克韋爾(Ilya Sutskever)告訴阿爾特曼,他被解雇了,這個消息很快就會傳出去,關(guān)于阿爾特曼為何解雇并沒有任何解釋。
隨后,就是那份震驚世界的公告。
OpenAI在官網(wǎng)公告中稱,罷免阿爾特曼符合公司的使命。這是在董事會經(jīng)過慎重審查之后得出的結(jié)論,阿爾特曼在與董事會的溝通中“始終不坦誠”,阻礙了董事會履行職責(zé)的能力,因此董事會不再對他繼續(xù)領(lǐng)導(dǎo)OpenAI的能力抱有信心。同時,布羅克曼從董事會中除名,但繼續(xù)擔(dān)任公司職務(wù)。
消息公布后,錯愕的布羅克曼憤然宣布離職。他在社交媒體上說,“我對8年前從我的公寓開始這一事業(yè)(OpenAI)感到驕傲,我們一起經(jīng)歷了低谷和高光,克服了許多困難,但得知今天的新聞后,我退出(I quit)。”
OpenAI原董事會成員包括阿爾特曼、布羅克曼、伊利亞、問答網(wǎng)站Quora首席執(zhí)行官Adam D'Angelo、Tasha McCauley以及Helen Toner組成。在罷免阿爾特曼的行動中,有四位董事支持這一決定。
在OpenAI故事的起點(diǎn),參與各方曾期待實(shí)現(xiàn)一個實(shí)現(xiàn)各自抱負(fù)的宏偉藍(lán)圖,但8年后,最新一幕卻是一場令人驚訝的風(fēng)波。它不是“茶杯里的風(fēng)暴”,而是牽動著人工智能世界的未來。
五天后,風(fēng)波暫時平息。11月22日,OpenAI表示,阿爾特曼將在被董事會解雇幾天后,重新?lián)喂镜氖紫瘓?zhí)行官,并組建由布萊特·泰勒(Bret Taylor)、拉里·薩默斯(Larry Summers)和亞當(dāng)·迪安杰羅(Adam D'Angelo)組成的新董事會,泰勒將擔(dān)任董事會主席。
新董事會已接手公司,其中布萊特·泰勒為Facebook首席技術(shù)官,他還曾擔(dān)任全球知名SaaS公司Salesforce的CEO和Twitter董事長;拉里·薩默斯是著名經(jīng)濟(jì)學(xué)者,曾任職美國前財長;亞當(dāng)·迪安杰羅是此次事件發(fā)生前OpenAI的董事會成員、問答網(wǎng)站Quora的首席執(zhí)行官。OpenAI還表示,各方正在努力“合作厘清細(xì)節(jié)”,在五天前參與罷免阿爾特曼的四名董事會成員中,有三名不會成為初始董事會成員。
“如果你看現(xiàn)在這個董事會的組成,應(yīng)該說這就是各方的最大公約數(shù),是結(jié)束現(xiàn)在這場’政變’的最大公約數(shù)?!币晃魂P(guān)注此事的科技業(yè)觀察人士稱,臺面上的沖突暫告一段落,但未來博弈依舊還未結(jié)束。舞臺將轉(zhuǎn)至公司內(nèi)部,阿爾特曼仍未掌握董事會,OpenAI最大的投資方微軟也未列席其中,甚至數(shù)天前選擇支持解雇阿爾特曼的亞當(dāng)·迪安杰羅還依舊名列新董事會成員名單,這家科技公司的未來仍不太確定。
而曾堅決要求將阿爾特曼從公司中清理出去的OpenAI首席科學(xué)家伊利亞,目前處境微妙。在事件中,他的態(tài)度曾發(fā)生大幅反轉(zhuǎn),“我從未有意傷害OpenAI,我愛我們一起創(chuàng)造的一切,我會盡可能使公司團(tuán)聚?!彼谏缃幻襟w上說,并在一封超過700名OpenAI員工聯(lián)署公開信中參與署名,指責(zé)原董事會的行為已表明董事會沒有能力監(jiān)管OpenAI,并要求原董事會辭職。
被激怒的OpenAI投資人也向原董事會施壓,要求召回阿爾特曼重新?lián)喂綜EO,包括微軟、興盛資本(Thrive Capital)等OpenAI投資方均在積極撮合阿爾特曼。微軟甚至表示,若阿爾特曼無法回歸,將會加入微軟并領(lǐng)導(dǎo)一個新的先進(jìn)AI研究團(tuán)隊,并歡迎OpenAI離職員工加入。
董事會聯(lián)合罷免管理層,卻遭到大多數(shù)股東和員工集體反對,導(dǎo)致公司陷入僵局,是商業(yè)史上罕見的一幕。一來一回的事態(tài)發(fā)展,更將OpenAI內(nèi)部隱藏的矛盾徹底踢爆,業(yè)內(nèi)一片嘩然。
阿爾特曼則是責(zé)怪自己沒有更好地管控董事會,他認(rèn)為董事會被一些過度關(guān)注AI安全并受“有效利他主義”影響的人接管了,這些恐懼失控的AI可能會對人類生存構(gòu)成威脅的董事會成員們,對于公司前景并不是特別關(guān)心。
從2015年成立,到之后陷入罷免創(chuàng)始人風(fēng)波,OpenAI呈現(xiàn)了人工智能加速時代下,一家理想主義公司的崎嶇命運(yùn)。
OpenAI的成立,最初是多方共識的結(jié)果。
阿爾特曼與埃隆·馬斯克、領(lǐng)英創(chuàng)始人里德·霍夫曼等幾位科技領(lǐng)袖于2015年底組局成立了OpenAI。帶著10億美元的投資承諾,OpenAI目標(biāo)是開發(fā)“通用人工智能(AGI)”技術(shù),希望實(shí)現(xiàn)這一目標(biāo)以造福人類,并將專利和研究成果全部開放。
從0到1的發(fā)展過程中,OpenAI的進(jìn)展緩慢而燒錢,早期的目標(biāo)是讓AI能夠掌握一款名為《刀塔2》的電子競技游戲,因?yàn)樗麄儼l(fā)現(xiàn)最有前途的技術(shù)路線需要海量數(shù)據(jù)和大量計算資源,亟需大筆資金才能運(yùn)作。那時,還在為創(chuàng)業(yè)加速器YC工作的阿爾特曼,角色變得重要了起來。
2019年初,阿爾特曼辭去YC總裁的職務(wù),接手已經(jīng)運(yùn)轉(zhuǎn)4年的OpenAI。他在OpenAI做的第一件事,就是組建子盈利公司,然后自己擔(dān)任首席執(zhí)行官(CEO),尋找融資。
阿爾特曼沒有要求獲得OpenAI的股份,在最新的一輪內(nèi)部沖突使得阿爾特曼處于不利位置之前,他在OpenAI的地位與他的創(chuàng)始人身份、以及其和硅谷的深厚關(guān)系有關(guān)。
期間,阿爾特曼和馬斯克之間出現(xiàn)過裂痕。隨著特斯拉銷量激增、加大了人工智能研究投入,馬斯克便退出OpenAI董事會,稱雙方有“利益沖突”。
OpenAI的潛力迎來了微軟的注意,2019年7月,微軟宣布將向OpenAI投資10億美元。阿爾特曼在隨后的一次活動中透露,微軟投資的10億美元是現(xiàn)金,而不僅是OpenAI使用微軟Azure云計算服務(wù)的使用額度。后來,微軟可能累計向OpenAI投資了超過130億美元,成為OpenAI最大的投資人。
即使如此巨額的投資,也沒有讓微軟在日后OpenAI的公司治理中保有足夠的話語權(quán)。一方面,OpenAI制定了復(fù)雜的財務(wù)設(shè)計來保證非盈利初衷:董事會下設(shè)非盈利組織OpenAI Nonprofit,該組織全資擁有一家“有限盈利公司”,該實(shí)體有權(quán)控制和管理營利性子公司。
此外,投資者最多只能獲得其初始投資本金100倍的投資回報。OpenAI不向投資者分配股權(quán),而是分配不涉及所有權(quán)的未來利潤,微軟僅是這家“有限盈利公司”的少數(shù)股東,并無決策權(quán)。
簡單來說,一個非營利董事會控制著OpenAI公司的運(yùn)營,并能夠更換其領(lǐng)導(dǎo)層。
后來,即使是阿爾特曼自己,也承認(rèn)這一架構(gòu)非常奇怪(可能也是馬斯克退出的原因之一),在OpenAI做最新一輪融資時,一些潛在投資者被其復(fù)雜的結(jié)構(gòu)嚇退了,它后來也導(dǎo)致了阿爾特曼短暫下臺。
把阿爾特曼趕走的OpenAI原董事會,過去一年也不穩(wěn)定,它先后失去了三位董事會成員,其中最引人注目的是里德·霍夫曼。里德·霍夫曼將自己創(chuàng)辦的職場社交平臺領(lǐng)英賣給微軟后,對于創(chuàng)建OpenAI營利性子公司的計劃一直是主要支持者。其他離開的OpenAI董事會成員還有腦機(jī)接口公司Neuralink高管Shivon Zilis和美國德州前眾議員Will Hurd。
外界認(rèn)為,過去一年OpenAI董事會的變動,使得該機(jī)構(gòu)倒向?qū)W術(shù)派和外部人士,“他們對阿爾特曼及其愿景的忠誠度沒那么高?!薄度A爾街日報》稱。
特殊的非盈利目標(biāo)和與“奇怪”的公司架構(gòu)設(shè)計,讓OpenAI有了一種崇高的使命感,獲得了獨(dú)立發(fā)展的空間,但這種架構(gòu)極不穩(wěn)定,也為矛盾埋下種子——在這家公司逐漸變得利益牽扯眾多、訴求各異的過程中,一旦環(huán)境發(fā)生變化,暫時的穩(wěn)定狀態(tài)被打破,事態(tài)走向不可控制。
OpenAI的特殊性在于,它的董事會不需要向投資人負(fù)責(zé),而董事會成員更關(guān)心公司的使命、愿景、價值觀是否實(shí)現(xiàn)。這也是原董事會一再堅定要求解雇阿爾特曼的原因,因?yàn)榘柼芈チ硕聲男湃危此麤]有領(lǐng)導(dǎo)OpenAI去構(gòu)建造福人類的通用人工智能。
原董事會隨后向OpenAI員工解釋稱,這是一個治理問題,是董事會如何履行職責(zé)并推進(jìn)OpenAI使命的核心問題,他們的目的很明確:換掉阿爾特曼。
在這場政變式的公司動蕩前,OpenAI內(nèi)部曾發(fā)生過一次嚴(yán)重的內(nèi)部不和。
2021年,當(dāng)OpenAI前員工Dario Amodei、Daniela Amodei等人愈發(fā)擔(dān)心公司變得過于商業(yè)化,并在安全問題上與OpenAI管理層發(fā)生沖突后,他們選擇離開,成立了對手企業(yè)Anthropic。
Anthropic的幾位聯(lián)合創(chuàng)始人在OpenAI看到,只要為AI模型提供更多的數(shù)據(jù)和計算能力,就能讓模型變得更智能,而不需要對模型底層架構(gòu)做出重大更改。這讓他們擔(dān)心,當(dāng)模型越來越大,便會觸及某種危險的臨界點(diǎn)。
用阿爾特曼的話說,Dario Amodei等人出走創(chuàng)業(yè)的最大動機(jī)之一是對如何獲得安全的生成式人工智能與OpenAI不同,分歧主要發(fā)生在2019年OpenAI拿到微軟投資以后,過快的商業(yè)化進(jìn)展超過Anthropic創(chuàng)始團(tuán)隊的預(yù)期。
"作為OpenAI的安全團(tuán)隊,我們關(guān)注到的是,在訓(xùn)練大型語言模型和生成模型時,把安全放在首要位置。"Daniela Amodei說。為了保障其理想主義式的研究,Anthropic已注冊為一家治理結(jié)構(gòu)特殊的公益公司, 這種法律結(jié)構(gòu)使其免受市場壓力影響。
目前,Anthropic被普遍認(rèn)為是OpenAI的“最強(qiáng)對手”,他們也被視為人工智能行業(yè)早期理想回蕩至今的具象。
對比來看,從這次“政變”具體操作上,OpenAI董事會和阿爾特曼看起來是倉促地進(jìn)入了風(fēng)暴。
很多年來,在硅谷,一個由人工智能研究人員和活動人士組成的圈子一直發(fā)出警告:人工智能系統(tǒng)正變得過于強(qiáng)大,失控的人工智能可能會對人類的生存構(gòu)成威脅。
通用人工智能的發(fā)展正在逐漸加速。2015年的時候,還有業(yè)界專家指出,擔(dān)憂AI對人類的威脅就像“擔(dān)心火星上人口過?!保四曛?,這個威脅確實(shí)變得更明顯了。
這使得人工智能末日論者和有效利他主義者正逐漸走向主流,他們公開呼吁,警告監(jiān)管機(jī)構(gòu)認(rèn)真對待人工智能安全問題。受這些觀念影響的就包括一些OpenAI原董事會成員,直到上周五,他們扳倒了世界頂級人工智能公司的首席執(zhí)行官。
導(dǎo)致原董事會決定罷免阿爾特曼的并不是某一具體事件,而是隨著時間推移,信任在流失,這讓他們越來越感到不安。此外,阿爾特曼不斷增加的AI相關(guān)外部投資項(xiàng)目也讓事情變得更加復(fù)雜,這讓董事會對OpenAI如何使用自己的技術(shù)產(chǎn)生了疑問。
但原董事會按照自己的主張取得了部分成功,他們擔(dān)心阿爾特曼在建立功能強(qiáng)大、可能有害的人工智能系統(tǒng)方面進(jìn)展過快,于是阻止了他。這對于他們的追求來說是一場勝利,即使這是以犧牲公司為代價。
反噬也是巨大的,因?yàn)樗麄兾茨苴A得OpenAI員工的支持。如果OpenAI最終因阿爾特曼被解雇而受到無法彌補(bǔ)的傷害,人們會指責(zé)原董事會破壞了硅谷最有前途的初創(chuàng)企業(yè)之一,無法在理念上的妥協(xié), 將導(dǎo)致公司架構(gòu)的持續(xù)性將受到威脅。
在阿爾特曼回歸后,OpenAI的做法可能照舊,兩種觀點(diǎn)之間的斗爭似乎結(jié)束了。在接下來的幾個月里,新董事會有很多工作要做。他們需要再次來擴(kuò)大董事會,探索對OpenAI的治理結(jié)構(gòu)進(jìn)行實(shí)質(zhì)性變革,包括微軟在內(nèi)的投資者和高管都期待一種新的制衡機(jī)制,來限制董事會突然趕走創(chuàng)始人,最終危及數(shù)以十億美元計商業(yè)利益。但他們不再會具有否決權(quán),也不會像過去的董事會那樣有能力立即關(guān)閉公司。
但這不是原董事會在推動OpenAI“政變”時想象的場景。推動政變的伊利亞·蘇茨克韋爾等原董事會成員,對人工智能既恐懼又敬畏,擔(dān)心人工智能技術(shù)超出人類的控制能力,希望將技術(shù)的破壞性影響降到最低。
最終,企業(yè)利益戰(zhàn)勝了對未來的擔(dān)憂,人工智能作為一項(xiàng)有可能引領(lǐng)第四次工業(yè)革命的技術(shù),不太可能長期被那些想要減緩其發(fā)展的人所控制?!都~約時報》感嘆“人工智能現(xiàn)已屬于資本主義”。
我們正在加速沖向風(fēng)險嗎?