文|闌夕
隨著Sam Altman重新回到OpenAI執(zhí)掌大權(quán)，那場(chǎng)兒戲般的宮斗終于告一段落，前日參加一場(chǎng)連麥，談到對(duì)于OpenAI的追劇過程以及盲點(diǎn)，其實(shí)信息量相當(dāng)大，尤其是前阿里巴巴算法專家、心識(shí)宇宙創(chuàng)始人陶芳波老師的分享對(duì)我的啟發(fā)性很高。
陶老師也是最近被轉(zhuǎn)發(fā)巨多的這篇文章的作者，他是在AI這個(gè)行業(yè)里躬身入局做了很多年的技術(shù)專家，和我作為使用者和消費(fèi)者的視角有很大不同，我也簡(jiǎn)單總結(jié)一下我們聊的內(nèi)容。
現(xiàn)在回過頭看，OpenAI的宮斗除了奪權(quán)之外，其實(shí)還有一條埋了至少半年以上的隱線，它未必是最突出或者首要的矛盾，但實(shí)際上造成了董事會(huì)和管理層的離心離德。
OpenAI的董事會(huì)結(jié)構(gòu)雖然已經(jīng)被吐槽很多次了，但它之所以那么奇葩，原因都在于最開始想用這么一個(gè)去商業(yè)化的設(shè)計(jì)方案來實(shí)現(xiàn)董事會(huì)應(yīng)當(dāng)為全人類負(fù)責(zé)這個(gè)使命，我們現(xiàn)在覺得有問題的「由和業(yè)務(wù)無關(guān)的人來決定公司生死」的處境，其實(shí)初心就是這么考慮的。
如果不是出了這么一檔子事，如此架構(gòu)的理想主義甚至還是備受好評(píng)的，畢竟它代表了傳統(tǒng)商業(yè)經(jīng)濟(jì)形態(tài)之外的一種嘗試，而且誕生了一家領(lǐng)軍企業(yè)，不可謂不成功。
但是有兩個(gè)問題是隨著時(shí)間發(fā)展逐漸暴露出來的：
其一，是Transformer這條路線太燒錢了，不再是研究型公司負(fù)擔(dān)得起的，通過大佬們的捐贈(zèng)只是杯水車薪，必須重新回到融資這條路上才能支持繼續(xù)發(fā)展；
其二，是理想主義總會(huì)高估人性，不知道人類本身也是有局限性的，你怎么知道董事會(huì)的判斷，是出自自我的偏見，還是真的為全人類負(fù)責(zé)呢？或者說，他們憑什么說自己是為全人類在做判斷？
所以我才說，不如調(diào)幾個(gè)不同風(fēng)格的滿功率GPT-4來?yè)?dān)任董事會(huì)，重要事項(xiàng)讓它們來投票決定，這要比人類靠譜多了。
無論如何，Sam Altman一直都有在打補(bǔ)丁，想要兼容現(xiàn)代商業(yè)制度，那個(gè)董事會(huì)的成員最開始是9個(gè)人，后來減少到6個(gè)人，并長(zhǎng)期維持下來，這也是很草率的地方，因?yàn)橐话愣疾粫?huì)留雙數(shù)，但Sam也沒怎么管，算是一個(gè)比較重大的疏忽，說明他根本沒想過后院起火的可能。
根據(jù)幾家媒體的最新拆解，董事會(huì)的其中一人——在外面研究 人工智能相關(guān)政策的Helen Toner——認(rèn)為OpenAI的發(fā)展過于危險(xiǎn)了，甚至認(rèn)為如果毀掉OpenAI才能解決問題，那么這也是拯救全人類的唯一手段。
從時(shí)間線上看，是Sam Altman想先動(dòng)手，他在和Helen Toner長(zhǎng)期無法達(dá)成共識(shí)的情況下，試圖把她從董事會(huì)里拿走，卻慢了一步，Helen說服了首席科學(xué)家Ilya反水，聯(lián)合其他董事提前把Sam和他的死黨Greg踢出了局，用的理由也是偏保守和監(jiān)管的那套，認(rèn)為Sam太著急了，而且不受控制，對(duì)發(fā)布產(chǎn)品的重視度遠(yuǎn)高于對(duì)齊。
雖然最后證明幾乎所有OpenAI的員工都選了Sam Altman，但在OpanAI內(nèi)部確實(shí)也有很多不贊同過早發(fā)布產(chǎn)品的聲音，他們未必始終都站在Sam這一邊，但都不接受用兒戲般的宮斗方式來達(dá)到目的，這太蠢了。
我的看法是，就好比說做好極端情況的應(yīng)對(duì)當(dāng)然是沒毛病的，如果被毒蛇咬了那我們可以接受截肢保命的代價(jià)，但OpenAI的鬧劇在于，現(xiàn)在好像只是有人的胳膊被蚊子咬了一下，然后就直接拿出電鋸要截肢了??
陶芳波老師不贊同我的判斷，聽他解釋之后我也意識(shí)到確實(shí)有很多地方是旁觀位置觀察不到的死角，而陶老師正在前沿做AI Agent，他見到的、經(jīng)歷的事情，要深很多。
簡(jiǎn)單來說，陶老師認(rèn)為，控制AI的先決條件，是人類要比AI強(qiáng)大，如果AI超過了人類，那么人類根本無從判斷AI的決定是對(duì)是錯(cuò)，以致于失去駕馭AI的能力。
所以時(shí)間其實(shí)很緊張——而不是還有得從容余地——所謂的「對(duì)齊派」根本就還沒有寫好全部后門，而「加速派」就已經(jīng)迫不及待的要讓AI重構(gòu)社會(huì)了，而在硅谷的大環(huán)境里，「加速派」則是占據(jù)絕對(duì)上風(fēng)的，所以導(dǎo)致了OpenAI的董事會(huì)要用那種獨(dú)斷的方式來為公司踩剎車，這事兒可笑歸可笑，但不是不能理解的。
我接觸到的許多AI從業(yè)者，都帶回和陶老師很是接近的一種復(fù)雜性，怎么說呢，就是在高度認(rèn)同AI事業(yè)價(jià)值的同時(shí)，也對(duì)AI保持著同樣高度的懷疑和警戒，過去歷史上所有的技術(shù)都是工具，現(xiàn)在開始超越了工具，這既讓人感到興奮，也有所不安。
相比之下，我可能更偏樂觀一點(diǎn)，如果現(xiàn)在的世界和社會(huì)已經(jīng)接近完美了，那么AI引發(fā)改變的風(fēng)險(xiǎn)當(dāng)然需要討論其必要性，但事實(shí)是，當(dāng)下整個(gè)人類文明的生產(chǎn)力都還非常低下，我們被困在促狹的地月系統(tǒng)里，受制于能源、經(jīng)濟(jì)、戰(zhàn)爭(zhēng)等種種因素，如果AI可以造就跨越繁榮的機(jī)會(huì)，那么它能救贖的苦難，一定高于危險(xiǎn)。
我很尊重技術(shù)專家們對(duì)于肩負(fù)職責(zé)的崇高性，但在信息不對(duì)稱的世界里，「飽漢不知餓漢饑」的情形也是比比皆是的，讓大眾市場(chǎng)而非自我道德來做均值回歸，可能是一個(gè)容錯(cuò)率更高的選擇。
這又回到了OpenAI開發(fā)出的那個(gè)突破性進(jìn)展Q Star，時(shí)至今日我們都還無法具體了解這個(gè)引起董事會(huì)恐慌暴走的玩意到底是什么，只能從各種蛛絲馬跡里來拼湊出一個(gè)相對(duì)接近的答案：
Sam Altman在早些時(shí)候的一次活動(dòng)里有過一段略顯突兀的自我問話，大意是不知道究竟是在制造工具，還是創(chuàng)造生物？而在OpenAI內(nèi)部透露的只言片語里，Q Star擁有了「輕微的自我意識(shí)」，證據(jù)之一就是它已經(jīng)可以擺脫依賴數(shù)據(jù)才能開展訓(xùn)練的限制了，而是可以自我對(duì)話（合成數(shù)據(jù)）實(shí)現(xiàn)學(xué)習(xí)。
連「圖靈三巨頭之一」的Yann LeCun都震驚于這個(gè)進(jìn)展，他說現(xiàn)有大模型需要灌數(shù)據(jù)只是受限于技術(shù)水平不得已而為之的做法，大模型的訓(xùn)練數(shù)據(jù)量理論上可以不設(shè)上限——甚至超越人類古往今來的所有知識(shí)——但是就像人類和猩猩的基因組之間只有差不多8MB的差異，人類文明從來不是靠堆量堆起來的，AI也不應(yīng)該這樣。
就像古老時(shí)代的哲學(xué)家們并不是把天底下的書都看完了才能產(chǎn)生洞見，他們也可以選擇圍爐夜話，通過交談甚至是自我對(duì)話來創(chuàng)造新的智慧，如果AI達(dá)到了這樣的境界，那么AGI（通用人工智能）恐怕也是真的要降臨于世了。
今年8月的時(shí)候，Sam Altman還發(fā)推表示他收到了同事送的「塞爾達(dá)傳說：王國(guó)之淚」，所以人類獲得AGI的時(shí)間要往后推遲4天了——他要用4天時(shí)間來打游戲——沒想到啊，任天堂竟然是專門為了拯救人類不被AI奴役而專門開發(fā)了那款新游戲，卻也只讓人類滅亡的時(shí)間拖了區(qū)區(qū)4天而已??
這是今年夏天，Sam Altman代表OpenAI在全球巡回演講里的一張抓拍，構(gòu)圖和色彩的恰到好處，卻又隱約給這張照片賦予了某種「神性」的意味，對(duì)不對(duì)？