文｜科技新知 石榴
編輯丨月見
2023年之前，恐怕誰也沒想到，AI有一天能用如此速度，席卷全球。
距離ChatGPT點燃全網(wǎng)討論熱度不到半年，GPT-4、Microsoft 365 Copilot、Midjourney V5、文心一言、Google PaLM API等眾多巨頭級 AI 大模型及應(yīng)用已經(jīng)紛紛落地。
這些前沿科技成果在為大眾帶來震撼的同時，也難免讓人產(chǎn)生擔(dān)憂。一場“降臨派”與“拯救派”的較量在默默展開。
近日，生命未來研究所（Future of Life）公開發(fā)布一封名為《暫停大型人工智能研究》的公開信，將這場較量放在了明面之上。公開信中呼吁，所有人工智能實驗室應(yīng)立即暫停比GPT-4更強大的人工智能系統(tǒng)的訓(xùn)練，為期至少6個月。
該機構(gòu)在信中提到：“只有當(dāng)我們確信其影響將是積極的，并且其風(fēng)險是可控時，才應(yīng)該開發(fā)強大的人工智能系統(tǒng)。這種信心必須有充分的理由，并隨著系統(tǒng)潛在影響的大小而增加。”
“人工智能實驗室和獨立專家應(yīng)該利用這次暫停，共同制定和實施一套共享的安全協(xié)議，用于先進的人工智能設(shè)計和開發(fā)，這些協(xié)議由獨立的外部專家進行嚴(yán)格的審計和監(jiān)督，并應(yīng)確保它們是安全的。”
特斯拉和推特的首席執(zhí)行官馬斯克、蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克（Steve Wozniak、蒙特利爾學(xué)習(xí)算法研究所所長約書亞·本吉奧（Yoshua Bengio）等眾多科技領(lǐng)域從業(yè)者和AI專家都在這封公開信上留下簽名。截至發(fā)稿前，總?cè)藬?shù)已經(jīng)達到1794名，并仍在持續(xù)增加。
01、馬斯克與OpenAI“宮斗”始末
作為OpenAI公司的聯(lián)合創(chuàng)始人之一，馬斯克對其態(tài)度一直較為耐人尋味。過去幾個月，馬斯克對 OpenAI 相關(guān)信息持續(xù)轟炸，一會兒強調(diào) AI 安全性的問題，一會兒又“陰陽” OpenAI 的代碼庫，而他作為第一位投資者，什么都沒有得到。
2015年，馬斯克和阿爾特曼一起擔(dān)任聯(lián)合主席，當(dāng)時，OpenAI的目標(biāo)是“以最有可能造福整個人類的方式推進數(shù)字智能，不受產(chǎn)生財務(wù)回報需求的約束”。
但他在2018年離開了OpenAI的董事會，并撤銷了一大筆贊助款。雜志《財富》報道稱，馬斯克雖然支持人工智能，但特斯拉智能駕駛技術(shù)與OpenAI之間有“潛在利益沖突”。
當(dāng)時特斯拉正在為自動駕駛開發(fā)自己的人工智能，并在與OpenAI競爭人才。2022年離職的特斯拉自動駕駛主管Andrej Kapathy就是其中之一。他是 OpenAI最優(yōu)秀的人才之一，且是AI界著名網(wǎng)紅，在推特和Medium上非?；钴S。
但在OpenAI，大多數(shù)員工對這個故事并不買賬?！禨emafor》采訪了八位熟悉內(nèi)情的人士后發(fā)現(xiàn)，馬斯克在2018年離開的原因是奪權(quán)失敗。他認(rèn)為該公司已經(jīng)嚴(yán)重落后于Google，于是，馬斯克提出了一個可能的解決方案——他來掌控OpenAI并親自運營。然而，阿爾特曼和其他創(chuàng)始人拒絕了馬斯克的提議。
在這場權(quán)力之爭失敗后，馬斯克選擇離開公司，并取消了一筆大規(guī)模的捐贈計劃。這使得OpenAI無法支付在超級計算機上訓(xùn)練人工智能模型所需的巨額費用。6個月后，OpenAI從微軟那里獲得了10億美元的投資，不僅是資金，還有微軟提供的基礎(chǔ)設(shè)施的專業(yè)知識。
這或許也就不難理解，為何在離開OpenAI后，馬斯克就一直在批評后者，甚至矛頭直指其最大的支持者微軟。3月16日，馬斯克還在Twitter上表示，“我最早向OpenAI捐贈了1億美元，當(dāng)時它還是非營利的機構(gòu)，沒有所有權(quán)，也不受任何人控制?！彼€抨擊微軟“將OpenAI占為己有”。
在越來越不可調(diào)和的矛盾面前，阿爾特曼也終于沒忍住爆了粗口。在最近與科技記者卡拉·斯威舍（Kara Swisher）的播客中，阿爾特曼用“混蛋”（jerk）來形容馬斯克。
有意思的是，此前阿爾特曼的名字也曾出現(xiàn)在公開信上。后續(xù)，經(jīng)證明，此簽名為虛假簽名，很快被移除。
對于公開信，阿爾特曼也并未做出直接回應(yīng)。但在30日早晨，他在Twitter發(fā)表了一些關(guān)于通用人工智能的觀點，OpenAI的另一位創(chuàng)始人格雷格·布羅克曼（Greg Brockman）也轉(zhuǎn)發(fā)了阿爾特曼的推文，并再次強調(diào)OpenAI的使命是“確保AGI惠及全人類”。
02、都在擔(dān)憂什么？
“宮斗權(quán)謀”故事總歸令人興奮，但相比于馬斯克，名單上的大部分人則真正是對當(dāng)前突然加速的AGI（通用人工智能）發(fā)展感到擔(dān)憂——尤其是發(fā)展的速度。
在這封信的組織者之一、生命未來研究所所長馬克斯·泰格馬克（Max Tegmark）看來，“把這說成是一場軍備競賽是不幸的，這更像是一場自殺競賽。誰先到達那里并不重要，它意味著人類作為一個整體可能會失去對自己命運的控制?！?/p>
更加具有爭議性的一點是，在這項新技術(shù)以光速發(fā)展的同時，大型科技公司卻一直在致力于裁減評估部署AI相關(guān)倫理問題的團隊員工。今年1月，微軟在萬人級別大裁員行動中，解散了所有的倫理道德與社會團隊。隨后，Meta、谷歌、亞馬遜和推特等公司都裁減了其“負(fù)責(zé)任的人工智能團隊”（Responsible AI）的成員，這些團隊負(fù)責(zé)為使用AI的消費產(chǎn)品提供安全建議。
頗為諷刺的是，推特的“道德人工智能（Ethical AI）”團隊，也在裁員中全軍覆沒，彼時距離馬斯克接手推特只不過剛剛兩個月。
在AI發(fā)展堪稱光速的當(dāng)下，這么多相關(guān)員工被解雇讓眾多業(yè)內(nèi)人士感到震驚和不解。Alphabet 旗下 DeepMind 的前倫理和政策研究員安德魯·斯科特（Andrew Strait） 表示，“在比以往任何時候都需要這樣的團隊的時候，有這么多相關(guān)員工被解雇。”
“這些東西正在塑造我們的世界，”長期以來批評AI系統(tǒng)缺陷的企業(yè)家、學(xué)者加里·馬庫斯在接受采訪時這樣說道，“我們面臨著不負(fù)責(zé)任的企業(yè)、廣泛應(yīng)用、監(jiān)管缺失和大量未知因素引發(fā)的‘完美風(fēng)暴’?！?/p>
但同時，馬庫斯也明白，說服更廣泛的科技界同意暫停是很困難的。
圖靈三巨頭之一楊立昆（LeCun）認(rèn)為，所謂“暫停研發(fā)”，不過就是“秘密研發(fā)”罷了，這與一些簽名者所希望的恰恰完全相反。
值得一提的是，此前由于競爭立場關(guān)系，楊立昆一直對ChatGPT甚至聊天機器人持反對態(tài)度，他曾直言，“ChatGPT滿嘴胡謅，你們卻對它如此寬容，但我家的Galactica才出來三天，就被你們罵到下線了?！?/p>
這次因為這份公開信，展露出了與OpenAI冰釋前嫌的信號，也是令人啼笑皆非。
與此同時，馬庫斯認(rèn)為，公開信中提到的“如果不暫停，應(yīng)由政府強制暫?！钡目赡苄砸埠苄。驗榱⒎ㄕ咴诒O(jiān)管AI方面做得很少。
昨日，美國科技倫理組織人工智能與數(shù)字政策中心（CAIDP）要求美國聯(lián)邦貿(mào)易委員會（FTC）禁止 OpenAI 發(fā)布新的商業(yè)版 GPT-4，目前后者對此尚未做出回應(yīng)。
加州共和黨眾議員杰伊·奧伯諾爾特（Jay oberolte）表示，美國政界對這項技術(shù)了解不多，“你會驚訝于我花了多少時間向我的同事解釋人工智能的主要危險不會來自邪惡的機器人，它們的眼睛里會射出紅色激光?！?/p>
2021年，歐盟政策制定者倒是提出了一項法律，旨在規(guī)范可能造成傷害的AI技術(shù)，包括面部識別系統(tǒng)。該措施預(yù)計最早將于今年通過，它要求公司對AI技術(shù)進行風(fēng)險評估，以確定它們的應(yīng)用將是否影響健康、安全和個人權(quán)利。
但前谷歌大腦成員、在線教育平臺Coursera的創(chuàng)始人吳恩達在政府介入方面，表示了強烈的反對。他認(rèn)為，讓政府暫停他們不了解的新興技術(shù)是反競爭的，這會樹立一個可怕先例，是糟糕的創(chuàng)新政策。
“在推進技術(shù)發(fā)展的同時，讓我們也對安全進行更多的投資，而不是扼殺進步。”吳恩達如是呼吁。
參考資料：
《The secret history of Elon Musk, Sam Altman, and OpenAI》-《Semafor》
《馬斯克們的擔(dān)憂并非空穴來風(fēng)？大型科技公司裁減了AI倫理團隊》-華爾街見聞
《Elon Musk, Other AI Experts Call for Pause in Technology’s Development》-《華爾街日報》
《AI Leaders Urge Labs to Halt Training Models More Powerful Than ChatGPT-4》-《紐約時報》