正在閱讀:

“ChatGPT之母”:35歲,她是OpenAI神秘CTO

掃一掃下載界面新聞APP

“ChatGPT之母”:35歲,她是OpenAI神秘CTO

“Murati和OpenAI的AGI之旅,才剛剛開始。”

文|硅兔賽跑  椎名

編輯|梓

誰是現(xiàn)在風(fēng)頭最勁的AI公司?相信很多人的答案都是OpenAI,尤其是在通用人工智能的(AGI)領(lǐng)域。

然而,很少有人知道,在OpenAI最初踏入AGI之旅時(shí),它也經(jīng)歷了一段相對(duì)困難的歷程。

從成立時(shí)含著金湯勺般的“大佬云集”,到押注AGI的孤注一擲,再到破繭重生、重新定位為商業(yè)公司,并成為將AGI大規(guī)模面向外界開放測(cè)試的“第一個(gè)吃螃蟹的人”,OpenAI的每一步其實(shí)都又驚又險(xiǎn)。

但這家公司還是成功做到了,至少目前來看其水平是無人能及的。

在這段大冒險(xiǎn)中,除了昔日的聯(lián)合創(chuàng)始人埃隆·馬斯克,聯(lián)合創(chuàng)始人兼CEO山姆·奧特曼,投資了超過10億美金的金主微軟這幾個(gè)big names以外,隨著OpenAI ChatGPT 的影響力波及世界,另一個(gè)名字浮出了水面:她就是Mira Murati,35 歲的OpenAI CTO。

01、曾在特斯拉參與Model X,趕上自動(dòng)駕駛的第一波浪潮

讓我們一起猜想下,一名前沿AI公司的CTO,具體需要領(lǐng)導(dǎo)公司的哪些事務(wù)?

1、了解當(dāng)前和未來的技術(shù)趨勢(shì),以預(yù)測(cè)行業(yè)發(fā)展的方向。這有助于做出正確的技術(shù)決策,確保公司在技術(shù)方面保持領(lǐng)先地位。

2、支持產(chǎn)品開發(fā):了解產(chǎn)品開發(fā)過程中的技術(shù)需求和挑戰(zhàn),以確保產(chǎn)品開發(fā)進(jìn)展順利。

3、平衡技術(shù)和商業(yè):了解技術(shù)和商業(yè)之間的平衡,以確保技術(shù)決策不會(huì)影響公司的盈利能力。必須了解公司的商業(yè)模式,并將其與技術(shù)目標(biāo)相匹配,以確保公司的長(zhǎng)期成功。

4、促進(jìn)創(chuàng)新:了解當(dāng)前的技術(shù)和市場(chǎng)趨勢(shì),以鼓勵(lì)創(chuàng)新。

圖源:Atlantiku

作為OpenAI的CTO,又會(huì)有哪些不同?

2015年12月OpenAI成立,從創(chuàng)立之初就已經(jīng)確定要做AGI(Artificial General Intelligence,通用人工智能)。

Mira Murati 并不是為公司拍板押注AGI的最初決策者,但顯然,她必須相信AGI,才會(huì)加入到這個(gè)團(tuán)隊(duì)中。

那么,在AGI還遙不可及甚至還被大多數(shù)專家不看好的2018年,Mira Murati對(duì)AGI的信心和判斷來自哪里?

這就得從她的求學(xué)和職業(yè)之旅談起。

首先,專業(yè)的機(jī)械工程理工思維訓(xùn)練,為她成為一名技術(shù)領(lǐng)袖奠定了基礎(chǔ)。

在達(dá)特茅斯學(xué)院,她完成了她的機(jī)械工程學(xué)士學(xué)位。這是常春藤學(xué)校中唯一一所以“學(xué)院”冠稱的大學(xué)。

從達(dá)特茅斯完成專業(yè)的理工科訓(xùn)練之后,Murati 開始在高盛實(shí)習(xí),擔(dān)任暑期分析師。隨后,她進(jìn)入到和她的所學(xué)專業(yè)更為契合的法國航空航天公司Zodiac Aerospace,擔(dān)任高級(jí)概念工程師。

一段商業(yè)經(jīng)驗(yàn),一段工程經(jīng)驗(yàn),進(jìn)一步幫她撬開了一個(gè)新坐標(biāo)的大門,這也是她日后加入OpenAI最重要的一次機(jī)會(huì)——加入特斯拉擔(dān)任高級(jí)產(chǎn)品經(jīng)理,負(fù)責(zé)其“Model X”汽車。

這個(gè)機(jī)會(huì),開啟了她與人工智能的第一段親密接觸。

她在特斯拉度過了2013年~2016年近三年的時(shí)光。這三年也是特斯拉Model X初問世的三年。Model X最初于2012年首次亮相,但實(shí)際的生產(chǎn)和銷售始于2015年9月。期間經(jīng)歷了許多變化,從最初的概念車到實(shí)際的生產(chǎn)和銷售車型,它不斷地提高了性能和功能,并成為了特斯拉公司的重要車型之一。

而Model X正是特斯拉旗下第一款具備自動(dòng)駕駛功能的車型之一。從2015年末開始,特斯拉開始向Model X車主推出Autopilot自動(dòng)駕駛功能。

圖源:Green Car Reports

也就是說,在領(lǐng)導(dǎo) Model X 的開發(fā)工作時(shí),Murati 首次趕上了人工智能熱。

雖然其中有多少工作是Murati 直接相關(guān)的,我們不得而知,但是,與Model X這樣劃時(shí)代的產(chǎn)品共成長(zhǎng),對(duì)于一位技術(shù)工作者來說想必是不可多得的機(jī)會(huì)。2016年離開特斯拉時(shí),Mira是Model X的高級(jí)產(chǎn)品經(jīng)理。此時(shí),Murati踏入到一家更具有黑科技色彩的公司——Leap Motion,擔(dān)任產(chǎn)品和工程副總裁。也正是這段經(jīng)歷,進(jìn)一步強(qiáng)化了她的產(chǎn)品化能力。

在Leap Motion的2年時(shí)光,也是她在加入OpenAI之前的最后一段工作經(jīng)歷。

作為一家軟件和硬件公司,Leap Motion當(dāng)時(shí)正在致力于開發(fā)一種虛擬現(xiàn)實(shí)系統(tǒng),打算用手勢(shì)來代替鍵盤與鼠標(biāo)。Murati和她的團(tuán)隊(duì)希望提供更直接可靠的與計(jì)算機(jī)交互的體驗(yàn)。但她很快意識(shí)到,這項(xiàng)依賴 VR 頭顯的技術(shù)還為時(shí)過早。

于是,2018 年,她選擇加入 OpenAI ,在那里,投入到一場(chǎng)更徹底、更接近未來、也更有影響力的浪潮之中:通用人工智能 AGI 。

02、在OpenAI轉(zhuǎn)型前加入,快速適應(yīng)并堅(jiān)定地將AGI產(chǎn)品化

在一眾AI研究機(jī)構(gòu)或者商業(yè)公司中,OpenAI都算得上最特別的一個(gè)。

首先是使命之遠(yuǎn)大和團(tuán)隊(duì)起點(diǎn)之高。

“OpenAI 的使命是確保通用人工智能 (AGI)——我們指的是在最具經(jīng)濟(jì)價(jià)值的工作中表現(xiàn)優(yōu)于人類的高度自治系統(tǒng)——造福全人類”?!庇蒃lon Musk、Sam Altman、Greg Brockman、Wojciech Zaremba、Ilya Sutskever 和 John Schulman 作為創(chuàng)始團(tuán)隊(duì),OpenAI 于 2015 年在舊金山問世,并將自己定位為研究通用人工智能的研究型機(jī)構(gòu)。

OpenAI的任務(wù)簡(jiǎn)單但又雄心勃勃,開發(fā)安全和開放的通用型 AI 工具來增強(qiáng)(而不是消滅)人們的能力,最初是為視頻游戲和其他應(yīng)用程序開發(fā)人工智能。2016 年,發(fā)布了第一個(gè)工具OpenAI Gym用于研究強(qiáng)化學(xué)習(xí),隨后發(fā)布Universe軟件平臺(tái),利用游戲、網(wǎng)站和其他應(yīng)用評(píng)估和訓(xùn)練通用智能AI。

在隨后的兩年里,OpenAI專注于更通用的 AI 研發(fā)。此時(shí),公司繼續(xù)面臨著來自行業(yè)巨頭的競(jìng)爭(zhēng)壓力,而且越來越多的人工智能公司涌現(xiàn)出來。OpenAI 意識(shí)到,自己需要在人工智能領(lǐng)域的技術(shù)上取得進(jìn)一步的突破,才能與其他公司競(jìng)爭(zhēng)。

為此,OpenAI投入了更多的研發(fā)資金,并招募了更多的人才。大量人才的輸入,為GPT的問世打下了最堅(jiān)實(shí)的根基。

2018 年,該公司發(fā)布了一篇論文《Improving Language Understanding by Generative Pre-Training》——介紹了 Generative Pre-trained Transformer (GPT) 的概念。簡(jiǎn)而言之,GPT 是神經(jīng)網(wǎng)絡(luò)——受人腦結(jié)構(gòu)和功能啟發(fā)的機(jī)器學(xué)習(xí)模型——在大型人類生成文本數(shù)據(jù)集上進(jìn)行訓(xùn)練。它可以執(zhí)行許多功能,例如生成和回答問題等。

圖源:Semantic Scholar

同樣是在這一年,Murati 加入OpenAI,開始擔(dān)任應(yīng)用人工智能和合作伙伴關(guān)系副總裁。

從這個(gè)title我們也能看出,OpenAI要打造AGI,絕不是走的“閉門造車”的神秘路線,Murati 的加入就是為了推動(dòng)這件事情。

與此同時(shí),OpenAI調(diào)整了自己的定位,并在2019年從非營利組織轉(zhuǎn)型為盈利實(shí)體公司,不過,團(tuán)隊(duì)人數(shù)倒是一直維持在100多人左右。

更有意思的是,轉(zhuǎn)型之后,這支集結(jié)了頂尖學(xué)術(shù)人才的隊(duì)伍,集中精力嘗試開發(fā)開創(chuàng)性的商業(yè)產(chǎn)品。Murati大量的技術(shù)產(chǎn)品化經(jīng)驗(yàn),同樣與此不謀而合。

Murati 非常清楚并適應(yīng)了這一點(diǎn)。2020 年 12 月,她被晉升為研究、產(chǎn)品和合作伙伴關(guān)系高級(jí)副總裁,負(fù)責(zé)的工作內(nèi)容包括OpenAI 一系列通用人工智能工具的公測(cè)策略。

這個(gè)公測(cè)策略,徹底為OpenAI的AI產(chǎn)品打開了一片全新的天地,因?yàn)檫@意味著,AGI開始要與真實(shí)世界充分地互動(dòng)和反饋。

在具體的技術(shù)實(shí)現(xiàn)上,2021 年,OpenAI團(tuán)隊(duì)聘請(qǐng)了ML 研究員Jan Leike,他現(xiàn)在領(lǐng)導(dǎo)他們的對(duì)齊團(tuán)隊(duì),更加強(qiáng)調(diào)結(jié)合人類反饋 ( RLHF ) 的AI強(qiáng)化學(xué)習(xí)。這一點(diǎn)對(duì)ChatGPT本身進(jìn)一步提高與人類的交互能力、對(duì)信息含義的理解能力以及自我判斷能力來說至關(guān)重要,因?yàn)檫@項(xiàng)技術(shù)加入了更多人工監(jiān)督進(jìn)行微調(diào)。因此,ChatGPT可以更加逼近人類語言的自然反應(yīng)。Murati 一直與 Leike 密切合作,這一點(diǎn)在 Twitter 上尤其明顯,他們?cè)屑?xì)討論了在訓(xùn)練 AI 模型期間納入反饋的重要性。

在此前與CogX的一次討論中,她解釋說,“我們希望這些模型遵循我們的明確指示,但我們也希望它們遵循我們隱含的指示,因此我們不希望它們產(chǎn)生任何刻板印象或產(chǎn)生有害反應(yīng)。我們希望它們主要與我們的意思或想要的內(nèi)容保持一致,但這可能非常模糊。為了實(shí)現(xiàn)這一目標(biāo),我們需要模型循環(huán)中的人工反饋,以使意圖更加清晰?!?/p>

這類人類反饋具體的實(shí)現(xiàn)策略,就是與不同行業(yè)的合作伙伴合作,這種合作幫助OpenAI擴(kuò)展到醫(yī)療保健、交通和金融等新領(lǐng)域。此外,大量真實(shí)世界的客戶數(shù)據(jù)都可以用來訓(xùn)練其 AI 模型。

至少從目前來看,這個(gè)策略是十分成功的。2022 年 5 月,她成功晉升為首席技術(shù)官。

圖源:Mauna Media

根據(jù)公開信息,我們了解到Murati是科幻經(jīng)典“2001:太空漫游”、詩人 Rainer Maria Rilke 和搖滾樂隊(duì) Radiohead 的粉絲,除此以外,幾乎沒有其他有關(guān)她個(gè)人生活的報(bào)道。

她的大部分工作依然是坐在電腦面前思考代碼。但隨著圍繞生成式 AI 工具的炒作越來越多以及OpenAI的火爆,Murati 最近開始更多地出現(xiàn)在公眾視野中。

此時(shí),她的身上又多了一份責(zé)任:除了解決技術(shù)難題,OpenAI還遇到了另一個(gè)問題,那就是如何樹立人工智能技術(shù)的公眾形象。

由于電影和其他媒體作品中通常將AI描繪成對(duì)人類產(chǎn)生威脅的超級(jí)智能體,因此很多人對(duì)OpenAI的AGI計(jì)劃持懷疑態(tài)度。

在這種情況下,OpenAI的高管們常常需要花費(fèi)大量的時(shí)間和精力來向公眾解釋他們的計(jì)劃,以及AI技術(shù)對(duì)社會(huì)的潛在益處。

這一過程漫長(zhǎng)而繁瑣,而且需要OpenAI團(tuán)隊(duì)在業(yè)內(nèi)發(fā)揮領(lǐng)導(dǎo)作用。

Murati 的說法是, OpenAI的AI是“人類助手”,并表示它們將成為“社會(huì)塑造它們的方式”。

OpenAI總是坦率地承認(rèn)他們的工具能做什么或不能做什么,Murati 也清晰地遵從著這一點(diǎn)。然而,她也承認(rèn),其中一些問題,比如AGI對(duì)人類的確切影響,現(xiàn)在可能太大了,甚至太開放了,無法回答。

盡管還有很多不確定性,但有一點(diǎn)是確定的,那就是AGI對(duì)人類的影響將繼續(xù)加深,畢竟Murati和OpenAI的AGI之旅,才剛剛開始。

文末互動(dòng):

你如何評(píng)價(jià)這位改變世界AGI的“教母”?

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請(qǐng)聯(lián)系原著作權(quán)人。

OpenAI

  • 科技早報(bào)|OpenAI為ChatGPT增添搜索功能;華為前三季營收增長(zhǎng)近30%
  • OpenAI為ChatGPT增添搜索功能

評(píng)論

暫無評(píng)論哦,快來評(píng)價(jià)一下吧!

下載界面新聞

微信公眾號(hào)

微博

“ChatGPT之母”:35歲,她是OpenAI神秘CTO

“Murati和OpenAI的AGI之旅,才剛剛開始?!?/p>

文|硅兔賽跑  椎名

編輯|梓

誰是現(xiàn)在風(fēng)頭最勁的AI公司?相信很多人的答案都是OpenAI,尤其是在通用人工智能的(AGI)領(lǐng)域。

然而,很少有人知道,在OpenAI最初踏入AGI之旅時(shí),它也經(jīng)歷了一段相對(duì)困難的歷程。

從成立時(shí)含著金湯勺般的“大佬云集”,到押注AGI的孤注一擲,再到破繭重生、重新定位為商業(yè)公司,并成為將AGI大規(guī)模面向外界開放測(cè)試的“第一個(gè)吃螃蟹的人”,OpenAI的每一步其實(shí)都又驚又險(xiǎn)。

但這家公司還是成功做到了,至少目前來看其水平是無人能及的。

在這段大冒險(xiǎn)中,除了昔日的聯(lián)合創(chuàng)始人埃隆·馬斯克,聯(lián)合創(chuàng)始人兼CEO山姆·奧特曼,投資了超過10億美金的金主微軟這幾個(gè)big names以外,隨著OpenAI ChatGPT 的影響力波及世界,另一個(gè)名字浮出了水面:她就是Mira Murati,35 歲的OpenAI CTO。

01、曾在特斯拉參與Model X,趕上自動(dòng)駕駛的第一波浪潮

讓我們一起猜想下,一名前沿AI公司的CTO,具體需要領(lǐng)導(dǎo)公司的哪些事務(wù)?

1、了解當(dāng)前和未來的技術(shù)趨勢(shì),以預(yù)測(cè)行業(yè)發(fā)展的方向。這有助于做出正確的技術(shù)決策,確保公司在技術(shù)方面保持領(lǐng)先地位。

2、支持產(chǎn)品開發(fā):了解產(chǎn)品開發(fā)過程中的技術(shù)需求和挑戰(zhàn),以確保產(chǎn)品開發(fā)進(jìn)展順利。

3、平衡技術(shù)和商業(yè):了解技術(shù)和商業(yè)之間的平衡,以確保技術(shù)決策不會(huì)影響公司的盈利能力。必須了解公司的商業(yè)模式,并將其與技術(shù)目標(biāo)相匹配,以確保公司的長(zhǎng)期成功。

4、促進(jìn)創(chuàng)新:了解當(dāng)前的技術(shù)和市場(chǎng)趨勢(shì),以鼓勵(lì)創(chuàng)新。

圖源:Atlantiku

作為OpenAI的CTO,又會(huì)有哪些不同?

2015年12月OpenAI成立,從創(chuàng)立之初就已經(jīng)確定要做AGI(Artificial General Intelligence,通用人工智能)。

Mira Murati 并不是為公司拍板押注AGI的最初決策者,但顯然,她必須相信AGI,才會(huì)加入到這個(gè)團(tuán)隊(duì)中。

那么,在AGI還遙不可及甚至還被大多數(shù)專家不看好的2018年,Mira Murati對(duì)AGI的信心和判斷來自哪里?

這就得從她的求學(xué)和職業(yè)之旅談起。

首先,專業(yè)的機(jī)械工程理工思維訓(xùn)練,為她成為一名技術(shù)領(lǐng)袖奠定了基礎(chǔ)。

在達(dá)特茅斯學(xué)院,她完成了她的機(jī)械工程學(xué)士學(xué)位。這是常春藤學(xué)校中唯一一所以“學(xué)院”冠稱的大學(xué)。

從達(dá)特茅斯完成專業(yè)的理工科訓(xùn)練之后,Murati 開始在高盛實(shí)習(xí),擔(dān)任暑期分析師。隨后,她進(jìn)入到和她的所學(xué)專業(yè)更為契合的法國航空航天公司Zodiac Aerospace,擔(dān)任高級(jí)概念工程師。

一段商業(yè)經(jīng)驗(yàn),一段工程經(jīng)驗(yàn),進(jìn)一步幫她撬開了一個(gè)新坐標(biāo)的大門,這也是她日后加入OpenAI最重要的一次機(jī)會(huì)——加入特斯拉擔(dān)任高級(jí)產(chǎn)品經(jīng)理,負(fù)責(zé)其“Model X”汽車。

這個(gè)機(jī)會(huì),開啟了她與人工智能的第一段親密接觸。

她在特斯拉度過了2013年~2016年近三年的時(shí)光。這三年也是特斯拉Model X初問世的三年。Model X最初于2012年首次亮相,但實(shí)際的生產(chǎn)和銷售始于2015年9月。期間經(jīng)歷了許多變化,從最初的概念車到實(shí)際的生產(chǎn)和銷售車型,它不斷地提高了性能和功能,并成為了特斯拉公司的重要車型之一。

而Model X正是特斯拉旗下第一款具備自動(dòng)駕駛功能的車型之一。從2015年末開始,特斯拉開始向Model X車主推出Autopilot自動(dòng)駕駛功能。

圖源:Green Car Reports

也就是說,在領(lǐng)導(dǎo) Model X 的開發(fā)工作時(shí),Murati 首次趕上了人工智能熱。

雖然其中有多少工作是Murati 直接相關(guān)的,我們不得而知,但是,與Model X這樣劃時(shí)代的產(chǎn)品共成長(zhǎng),對(duì)于一位技術(shù)工作者來說想必是不可多得的機(jī)會(huì)。2016年離開特斯拉時(shí),Mira是Model X的高級(jí)產(chǎn)品經(jīng)理。此時(shí),Murati踏入到一家更具有黑科技色彩的公司——Leap Motion,擔(dān)任產(chǎn)品和工程副總裁。也正是這段經(jīng)歷,進(jìn)一步強(qiáng)化了她的產(chǎn)品化能力。

在Leap Motion的2年時(shí)光,也是她在加入OpenAI之前的最后一段工作經(jīng)歷。

作為一家軟件和硬件公司,Leap Motion當(dāng)時(shí)正在致力于開發(fā)一種虛擬現(xiàn)實(shí)系統(tǒng),打算用手勢(shì)來代替鍵盤與鼠標(biāo)。Murati和她的團(tuán)隊(duì)希望提供更直接可靠的與計(jì)算機(jī)交互的體驗(yàn)。但她很快意識(shí)到,這項(xiàng)依賴 VR 頭顯的技術(shù)還為時(shí)過早。

于是,2018 年,她選擇加入 OpenAI ,在那里,投入到一場(chǎng)更徹底、更接近未來、也更有影響力的浪潮之中:通用人工智能 AGI 。

02、在OpenAI轉(zhuǎn)型前加入,快速適應(yīng)并堅(jiān)定地將AGI產(chǎn)品化

在一眾AI研究機(jī)構(gòu)或者商業(yè)公司中,OpenAI都算得上最特別的一個(gè)。

首先是使命之遠(yuǎn)大和團(tuán)隊(duì)起點(diǎn)之高。

“OpenAI 的使命是確保通用人工智能 (AGI)——我們指的是在最具經(jīng)濟(jì)價(jià)值的工作中表現(xiàn)優(yōu)于人類的高度自治系統(tǒng)——造福全人類”?!庇蒃lon Musk、Sam Altman、Greg Brockman、Wojciech Zaremba、Ilya Sutskever 和 John Schulman 作為創(chuàng)始團(tuán)隊(duì),OpenAI 于 2015 年在舊金山問世,并將自己定位為研究通用人工智能的研究型機(jī)構(gòu)。

OpenAI的任務(wù)簡(jiǎn)單但又雄心勃勃,開發(fā)安全和開放的通用型 AI 工具來增強(qiáng)(而不是消滅)人們的能力,最初是為視頻游戲和其他應(yīng)用程序開發(fā)人工智能。2016 年,發(fā)布了第一個(gè)工具OpenAI Gym用于研究強(qiáng)化學(xué)習(xí),隨后發(fā)布Universe軟件平臺(tái),利用游戲、網(wǎng)站和其他應(yīng)用評(píng)估和訓(xùn)練通用智能AI。

在隨后的兩年里,OpenAI專注于更通用的 AI 研發(fā)。此時(shí),公司繼續(xù)面臨著來自行業(yè)巨頭的競(jìng)爭(zhēng)壓力,而且越來越多的人工智能公司涌現(xiàn)出來。OpenAI 意識(shí)到,自己需要在人工智能領(lǐng)域的技術(shù)上取得進(jìn)一步的突破,才能與其他公司競(jìng)爭(zhēng)。

為此,OpenAI投入了更多的研發(fā)資金,并招募了更多的人才。大量人才的輸入,為GPT的問世打下了最堅(jiān)實(shí)的根基。

2018 年,該公司發(fā)布了一篇論文《Improving Language Understanding by Generative Pre-Training》——介紹了 Generative Pre-trained Transformer (GPT) 的概念。簡(jiǎn)而言之,GPT 是神經(jīng)網(wǎng)絡(luò)——受人腦結(jié)構(gòu)和功能啟發(fā)的機(jī)器學(xué)習(xí)模型——在大型人類生成文本數(shù)據(jù)集上進(jìn)行訓(xùn)練。它可以執(zhí)行許多功能,例如生成和回答問題等。

圖源:Semantic Scholar

同樣是在這一年,Murati 加入OpenAI,開始擔(dān)任應(yīng)用人工智能和合作伙伴關(guān)系副總裁。

從這個(gè)title我們也能看出,OpenAI要打造AGI,絕不是走的“閉門造車”的神秘路線,Murati 的加入就是為了推動(dòng)這件事情。

與此同時(shí),OpenAI調(diào)整了自己的定位,并在2019年從非營利組織轉(zhuǎn)型為盈利實(shí)體公司,不過,團(tuán)隊(duì)人數(shù)倒是一直維持在100多人左右。

更有意思的是,轉(zhuǎn)型之后,這支集結(jié)了頂尖學(xué)術(shù)人才的隊(duì)伍,集中精力嘗試開發(fā)開創(chuàng)性的商業(yè)產(chǎn)品。Murati大量的技術(shù)產(chǎn)品化經(jīng)驗(yàn),同樣與此不謀而合。

Murati 非常清楚并適應(yīng)了這一點(diǎn)。2020 年 12 月,她被晉升為研究、產(chǎn)品和合作伙伴關(guān)系高級(jí)副總裁,負(fù)責(zé)的工作內(nèi)容包括OpenAI 一系列通用人工智能工具的公測(cè)策略。

這個(gè)公測(cè)策略,徹底為OpenAI的AI產(chǎn)品打開了一片全新的天地,因?yàn)檫@意味著,AGI開始要與真實(shí)世界充分地互動(dòng)和反饋。

在具體的技術(shù)實(shí)現(xiàn)上,2021 年,OpenAI團(tuán)隊(duì)聘請(qǐng)了ML 研究員Jan Leike,他現(xiàn)在領(lǐng)導(dǎo)他們的對(duì)齊團(tuán)隊(duì),更加強(qiáng)調(diào)結(jié)合人類反饋 ( RLHF ) 的AI強(qiáng)化學(xué)習(xí)。這一點(diǎn)對(duì)ChatGPT本身進(jìn)一步提高與人類的交互能力、對(duì)信息含義的理解能力以及自我判斷能力來說至關(guān)重要,因?yàn)檫@項(xiàng)技術(shù)加入了更多人工監(jiān)督進(jìn)行微調(diào)。因此,ChatGPT可以更加逼近人類語言的自然反應(yīng)。Murati 一直與 Leike 密切合作,這一點(diǎn)在 Twitter 上尤其明顯,他們?cè)屑?xì)討論了在訓(xùn)練 AI 模型期間納入反饋的重要性。

在此前與CogX的一次討論中,她解釋說,“我們希望這些模型遵循我們的明確指示,但我們也希望它們遵循我們隱含的指示,因此我們不希望它們產(chǎn)生任何刻板印象或產(chǎn)生有害反應(yīng)。我們希望它們主要與我們的意思或想要的內(nèi)容保持一致,但這可能非常模糊。為了實(shí)現(xiàn)這一目標(biāo),我們需要模型循環(huán)中的人工反饋,以使意圖更加清晰。”

這類人類反饋具體的實(shí)現(xiàn)策略,就是與不同行業(yè)的合作伙伴合作,這種合作幫助OpenAI擴(kuò)展到醫(yī)療保健、交通和金融等新領(lǐng)域。此外,大量真實(shí)世界的客戶數(shù)據(jù)都可以用來訓(xùn)練其 AI 模型。

至少從目前來看,這個(gè)策略是十分成功的。2022 年 5 月,她成功晉升為首席技術(shù)官。

圖源:Mauna Media

根據(jù)公開信息,我們了解到Murati是科幻經(jīng)典“2001:太空漫游”、詩人 Rainer Maria Rilke 和搖滾樂隊(duì) Radiohead 的粉絲,除此以外,幾乎沒有其他有關(guān)她個(gè)人生活的報(bào)道。

她的大部分工作依然是坐在電腦面前思考代碼。但隨著圍繞生成式 AI 工具的炒作越來越多以及OpenAI的火爆,Murati 最近開始更多地出現(xiàn)在公眾視野中。

此時(shí),她的身上又多了一份責(zé)任:除了解決技術(shù)難題,OpenAI還遇到了另一個(gè)問題,那就是如何樹立人工智能技術(shù)的公眾形象。

由于電影和其他媒體作品中通常將AI描繪成對(duì)人類產(chǎn)生威脅的超級(jí)智能體,因此很多人對(duì)OpenAI的AGI計(jì)劃持懷疑態(tài)度。

在這種情況下,OpenAI的高管們常常需要花費(fèi)大量的時(shí)間和精力來向公眾解釋他們的計(jì)劃,以及AI技術(shù)對(duì)社會(huì)的潛在益處。

這一過程漫長(zhǎng)而繁瑣,而且需要OpenAI團(tuán)隊(duì)在業(yè)內(nèi)發(fā)揮領(lǐng)導(dǎo)作用。

Murati 的說法是, OpenAI的AI是“人類助手”,并表示它們將成為“社會(huì)塑造它們的方式”。

OpenAI總是坦率地承認(rèn)他們的工具能做什么或不能做什么,Murati 也清晰地遵從著這一點(diǎn)。然而,她也承認(rèn),其中一些問題,比如AGI對(duì)人類的確切影響,現(xiàn)在可能太大了,甚至太開放了,無法回答。

盡管還有很多不確定性,但有一點(diǎn)是確定的,那就是AGI對(duì)人類的影響將繼續(xù)加深,畢竟Murati和OpenAI的AGI之旅,才剛剛開始。

文末互動(dòng):

你如何評(píng)價(jià)這位改變世界AGI的“教母”?

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請(qǐng)聯(lián)系原著作權(quán)人。