編者按:ChapGPT 背后公司的老板是一位很像比爾·蓋茨的人。但他最突出的能力不在于技術,而在于洞悉未來與說服人的本領。正是因為 OpenAI 采取了讓利的策略,讓這家創業公司拿到了巨額投資,同時也因為它沒有太多顧忌地將 AI 技術推向消費者,從而成為有史以來突破一億用戶最快的組織。對于未來,山姆·奧特曼(Sam Altman)很樂觀,但他知道你也許會擔心。文章來自編譯。
【資料圖】
我第一次見到 山姆·奧特曼(Sam Altman) 是在 2019 年夏天。幾天前,微軟同意向他那家成立 3 年的初創公司 OpenAI 投資 10 億美元。在他的建議下,我們到離他位于舊金山的家不遠的一家現代風格的小餐館吃晚飯。
吃到一半時,他舉起了他的 iPhone,好讓我看到他用了過去幾個月的時間與全球最大科技公司之一談下來的合同。上面寫道,微軟投資的數十億美元將幫助 OpenAI 開發出所謂的通用人工智能 (AGI),也就是一種可以做人類大腦能做的任何事情的機器。
后來,當奧特曼喝著甜酒當作甜點時,他把自己的公司比作曼哈頓計劃。他說美國在二戰期間制造原子彈的努力是一個“OpenAI 級別的項目——我們的抱負是渴望做到那種程度”,說話的口吻平常到仿佛他在討論明天的天氣預報一樣。
他相信 AGI 會給世界帶來前所未見的繁榮和財富。他還擔心他的公司正在開發的技術可能會造成嚴重傷害——傳播虛假信息,破壞就業市場。甚至摧毀我們所知道的世界。
他說:“我盡量開誠布公。我做的是不是好事?還是真的很糟糕?”
2019 年的時候說這樣的話,聽起來仿佛在看科幻小說。
2023 年,人們開始懷疑奧特曼的先見之明是不是超出了他們的想象。
現在 OpenAI 已經發布了在線聊天機器人 ChatGPT,任何有互聯網連接的人與能回答各種問題的技術都只要一步之遙——比如有機化學亟待解決的問題,寫一篇關于馬塞爾·普魯斯特與他的瑪德琳的 2000 字的學期論文,甚至生成一臺計算機在筆記本電腦屏幕上投放數字雪花的程序這樣的要求都可以滿足。所有這些似乎都是人類才具備的技能。
隨著人們意識到這項技術也是一種傳播謊言,甚至是說服人們做他們不應該做的事情的手段,一些批評者指責奧特曼的魯莽行為。
比如最近有一千多名人工智能專家和技術領袖呼吁 OpenAI 等公司暫停在 ChatGPT 等系統上的工作,稱它們“對社會和人類構成了極大風險”。
然而,當人們表現得好像奧特曼幾乎實現了他長期以來的愿景時,他卻開始反擊了。
他在最近的一個下午告訴我:“對這些系統的炒作——即便我們希望的一切從長遠看都是對的——但在短期內則是完全失控的”。他說,需要時間來更好地了解這些系統最終會如何改變世界。
很多行業領導者、人工智能研究人員以及權威人士都把 ChatGPT 視為一項根本性的技術轉變,認為它跟網絡瀏覽器或 iPhone 的發明一樣重要。但很少有人能就這項技術的未來達成一致。
部分人認為它將帶來一個烏托邦,人人都將擁有所需要的一切時間與金錢。其他人則認為它會毀滅人類。還有一些人花費了大量時間來爭論,質疑這項技術根本不像每個人所說的那么強大,堅持認為天堂與世界末日都不像看起來那么近。
奧特曼來自圣路易斯郊區的,今年 37 歲,既是創業者也是投資者。他長得很瘦,一臉孩子氣,盡管外面波浪滔天,他卻巍然不動。作為 OpenAI 的首席執行官,不知怎地,這些看似矛盾的觀點在他身上都有體現,似乎在希望將這種奇怪、強大、有缺陷的技術推向未來時能平衡無數的可能性。
這意味著他經常受到來自各個方面的批評。但與他最親近的人認為這是理所當然的。 OpenAI 總裁 Greg Brockman 說:“如果你能同時讓兩個極端的人都感到不安,那你肯定就做對了。”
與奧特曼呆在一起,就是為了了解硅谷將推動這項技術向前發展,盡管硅谷自己也不太確定其潛在影響是什么。在我們 2019 年的那次晚餐上,他曾引用了曼哈頓計劃負責人羅伯特·奧本海默的話,后者認為原子彈是科學進步的必然產物。 他說:“技術之所以會發生,是因為它是可能的”。 (奧特曼指出,仿佛命中注定,他跟奧本海默都是同一天生日。)
他相信不管是以何種形式,人工智能都會發生,它會做出連他自己都無法想象的奇妙事情,但我們可以找到緩和人工智能可能造成的危害的方法。
這種態度也是奧特曼自身軌跡的體現。在一套有效的個人技能的推動下,他的生活一直都是芝麻開花節節高——而且我們還沒提到他的運氣。他相信會發生的是好事而不是壞事,這是說得過去的。
但如果他錯了,還有一個逃生口:在與微軟等投資者的合同中,OpenAI 的董事會保留了隨時關閉該技術的權利。
素食的肉牛農場主
與標志上除了行車路線以外,還有一條警告:“小心奶牛”。
奧特曼周末的度假去處是加州納帕市的一個牧場,那里有農場工人種植釀酒葡萄,飼養奶牛。
這一周,奧特曼和他的搭檔、澳大利亞軟件工程師 Oliver Mulherin 住在舊金山市中心俄羅斯山(Russian Hill)的一所房子里。但隨著星期五的到來,他們搬到了牧場,一個安靜的地方,位于布滿青草的巖石山丘之間。那間房子已經有 25 年的歷史,經過了改建,看起來既樸實又現代。覆蓋外墻的 Cor-10 鋼已完全生銹。
接近他的住處時,可以看到在綠色原野與碎石路上閑逛的奶牛。
奧特曼這個人好像活在矛盾之中,這一點即便在他的度假屋里也是如此:一個飼養肉牛的素食主義者。他說他的伴侶喜歡這些動物。
在最近一次的下午,我們一起在牧場散步,途中在一個小湖邊停下來休息。眺望水面,我們再次討論起人工智能的未來。
自 2019 年以來,他發出的訊息并沒有太大變化。但他的話現在更加大膽了。
他說,他的公司正在開發的技術將“解決我們最緊迫的一些問題,將真正提高人們的生活水平,并為人類的意志與創造力找到更好的用途。”
他不確定這個東西將解決什么問題,但關于有哪些可能性,他認為 ChatGPT 顯示出了一些初步跡象。然后馬上他又擔心起如果同樣的技術落入到壞人手中時,可能會造成的嚴重危害來。
奧特曼傾向用仿佛已經存在的口吻來描述未來。在描述時他的那種樂觀態度似乎與當今世界的氛圍格格不入。與此同時,他有辦法對另一方的意見快速點頭認可。
對此,曾與奧特曼一起共事,擔任過 OpenAI 的董事會顧問,身為風投公司 Thrive Capital 合伙人的Kelly Sims表示,這就好像他一直在跟自己爭論一樣。
她說:“在一場對話中,他既是辯論俱樂部的正方,也是反方。”
他是硅谷的產物,在 2010 年代中期發展得如此迅速、如此得意忘形的那個科技中樞的產物。作為硅谷創業加速器、種子輪投資者 Y Combinator 的總裁, 2014 年到 2019 年間,他為雨后春筍般冒出來的新公司提供建議——而且是足夠精明的建議,有好幾家家喻戶曉的公司(包括 Airbnb、Reddit 和 Stripe)都是他親自投資的。對于能夠看出一項技術何時將取得指數級的增長——然后站在風頭浪尖走向未來,他感到很自豪。
但他也是一個奇怪的、不斷滋長的在線社區的產物,大概在奧特曼來到硅谷的同時,這個社區也開始擔心起人工智能有朝一日會毀滅世界。這一運動的成員被稱為是理性主義者或利他主義者,他們在創立 OpenAI 方面發揮了重要作用。
問題是奧特曼的兩面性最終能否兼容:如果這項技術的發展可能以災難告終的話,那么站上風頭浪尖還有沒有意義?奧特曼當然下定決心要看看結果如何。
他打算這么做未必是受金錢驅使。就像硅谷的許多個人財富都已經與各種各樣的上市及非上市公司捆綁在一起一樣,奧特曼的財富也沒有得到很好的記錄。但當我們在他的牧場漫步時,他第一次告訴我,他手上并沒有 OpenAI 的股份。他唯一能從公司賺到的錢是約 65000 美元的年薪,再加上Y Combinator 過去曾投資過這家公司,他手頭也有一小部分。
關于奧特曼的動機,他的長期導師、Y Combinator 創始人保羅·格雷厄姆 (Paul Graham) 是這樣解釋的:“他為什么要從事不能讓他變得更富有的事情?一個答案是,很多人一旦有了足夠的錢之后就會這樣做,奧特曼可能就是處于這個原因。另一個是他喜歡權力。”
“比爾·蓋茨年輕的時候肯定就是他這樣的”
私立預科學校約翰·巴勒斯學校 (John Burroughs School)是以 19 世紀美國博物學家和哲學家的名字來命名的。1990 年代后期, 該校邀請了一位獨立顧問來觀察其位于圣路易斯郊區的校園的日常生活,并給出評論。
顧問的意見當中包括一條嚴厲批評:學生群體中充斥著恐同癥。
2000 年代初期,約翰·伯勒斯學校 17 歲的學生奧特曼開始致力與改變這里的文化,他獨自一人說服老師在教室門貼上“安全空間”的標志,以此來作為支持同性戀學生(比如他)的聲明。大四那年,他正式出柜,說他十幾歲時的圣路易斯對于同性戀來說不是一個容易呆的地方。
教授該校大學預修計算機科學課程的Georgeann Kepchar將奧特曼視為她教過的最有才華的計算機科學學生之一,并稱他具有將人們推向新方向的罕見本領。
她說:“他有創造力,有遠見,再加上有雄心壯志和人格力量,可以說服其他人與他合作,能將他的想法付諸實踐”。奧特曼還告訴我,他曾要求一位特別恐同的老師張貼“安全空間”標志,就為了嘲笑一下那個人。
與奧特曼一起工作了十年的格雷厄姆在這個來自圣路易斯的人身上看到了同樣的說服力。
格雷厄姆說:“他天生就有說服別人的能力。如果這不是天生的能力,那至少在他 20 歲之前就已經完全培養出來了。我第一次見到奧特曼是在他 19 歲的時候,我記得當時我在想:‘比爾·蓋茨年輕的時候肯定就是他這樣的。 "”
兩人相識于 2005 年,當時奧特曼的創業公司向 Y Combinator 的第一批次訓練營提出了申請。他贏得了一個名額,并且拿到了 10000 美元的種子資金,在斯坦福大學上到大二之后,他退學創辦了自己的新公司 Loopt,這是一家社交媒體初創企業,可以讓人們與家人朋友分享自己的位置。
回憶起當年在斯坦福的短暫停留,他說自己從玩撲克的許多夜晚學到的東西比他從大多數其他大學活動中學到的還要多。大一結束后,他到吳恩達教授(教授后來創建了谷歌的旗艦AI實驗室)負責的人工智能與機器人實驗室工作。但玩撲克教會了奧特曼如何讀懂人和評估風險。
撲克向他展示了“如何逐步觀察人的行為模式,如何在非常不完善的信息下做出決定,為了獲取更多信息,如何(在某種意義上)決定什么時候忍受痛苦是值得的”。他在納帕的牧場漫步時告訴我:“這是很好的游戲。”
在出售 Loopt 獲得微薄回報后,他以兼職合伙人的身份加入了 Y Combinator。三年后,格雷厄姆辭去了公司總裁一職,出乎硅谷許多人的意料,他選擇了當時才 28 歲的奧特曼作為他的繼任者。
奧特曼不是碼農、不是工程師或 AI 研究人員。他是制定議程、將團隊凝聚到一起并達成交易的那個人。接任 Y Combinator 的總裁后,他幾乎毫不猶豫地開啟公司的擴張勢頭,不僅啟動了一支新的投資基金,成立了一個新的研究實驗室,還將每年提供咨詢的公司數量增加到數百家。
他還開始從事投資公司以外的幾個項目,其中就包括了 OpenAI,這是 2015 年他與埃隆·馬斯克等團隊共同創立的一家非營利組織。 奧特曼自己也承認,Y Combinator 越來越擔心他的注意力過于分散了。
他決心將注意力重新集中在一個(如他所說那樣)將對世界產生真正影響的項目上。他考慮過政治,但最終選擇了人工智能。
根據奧特曼的弟弟 Max 的說法,奧特曼相信自己是為數不多的可以通過 AI 研究讓世界發生重大改變的人之一,而且不是像很多人那樣靠政治來做到這一點。
2019 年,正當 OpenAI 的研究剛剛起步時,奧特曼辭去了 Y Combinator 總裁一職,個噢來接手OpenAI,把自己的注意力放在一家員工不到 100 人、還不確定該如何支付賬單的公司。
在一年之內,他把 OpenAI 變成了一家擁有營利性部門的非營利組織。這樣一來,他就可以籌集到所需的資金,去建造一臺可以做人腦能做的任何事情的機器了。
融資“100 億美元”
2010 年代中期,奧特曼與當時的男友、他的兩個兄弟以及他們的女朋友合租了一套三居室、三浴室的舊金山公寓。2016 年,兄弟倆分道揚鑣,不過大家還都在一個聊天群里面,他們花了很多時間互相吐槽,只有兄弟姐妹才能做到這樣。然后,有一天,奧特曼發了一條短信,說他計劃為公司的研究籌集 10 億美元。
后來不到一年的時間,他就做到了。在愛達荷州太陽谷(Sun Valley)舉行的科技領袖年度聚會(通常被稱為“億萬富翁的夏令營”)上,在遇到了微軟首席執行官薩蒂亞·納德拉后,他親自與納德拉以及微軟的首席技術官凱文·斯科特(Kevin Scott)談判,最終達成了協議。
幾年后,奧特曼再次給他的兄弟們發了一條短信,說他打算再籌集 100 億美元。今年一月,他又做到了,跟微軟又簽訂了一份合同。
OpenAI 總裁 Brockman 表示,奧特曼的才能在于了解別人想要什么。Brockman告訴我: “他總是設法找到對一個人最重要的東西——然后弄清楚如何把別人想要的東西給到對方。這就是他反復使用的算法。”
這份協議讓 OpenAI 與微軟站在了一場運動的中心——而這場運動有望重塑從搜索引擎到電子郵件應用乃至于在線輔導的一切。所有這一切發生得太快,快到甚至讓那些幾十年來一直在追蹤這項技術的人都感到驚訝。
在這種狂熱之中,奧特曼還是一如既往地冷靜——盡管他確實說他用 ChatGPT 來幫助快速總結所收到的大量電子郵件和文件。
斯科特認為奧特曼最終將可以與蓋茨、史蒂夫·喬布斯以及馬克·扎克伯格比肩。
他說:“這些人給科技行業乃至世界的結構留下了不可磨滅的印記。我認為奧特曼將成為其中的一員。”
問題是,與蘋果、微軟以及 Meta 剛剛起步的日子不同的是,現在人們很清楚技術將如何改變世界——以及它會有多么危險。
站在中間的那個人
今年 3 月,奧特曼在推特上發布了一張自拍,沐浴在淡橙色的閃光下,照片上的他微笑著站在一位金發女人與一個戴著淺頂軟呢帽的大胡子男人之間。
這位女士是加拿大歌手Grimes,馬斯克的前妻,戴帽子的是Eliezer Yudkowsky,他自稱是人工智能研究人員,并且相信人工智能有朝一日會毀滅人類,或許在這一點上沒人比他更加堅定。
這張自拍照是奧特曼在他的公司舉辦的派對上拍攝的——這說明了他與這種思維方式的接近程度。但他對人工智能的危險有自己的看法。
Yudkowsky 和他的著作對于 OpenAI 以及 DeepMind (另一家致力于開發通用人工智能的實驗室)的創立發揮了關鍵作用。。
他還幫助催生了一個龐大的理性主義者與有效利他主義者的在線社區。這群人堅信,人工智能會給人類帶來生存風險。這個具有驚人影響力的團體的代表是許多頂級人工智能實驗室(包括 OpenAI 在內)的研究人員。他們并不認為這種態度是虛偽:他們當中有許多人認為,正因為他們比其他任何人都更清楚地了解個中的危險,所以他們才是開發這項技術的最佳人選。
奧特曼認為,有效利他主義者對 AI 的崛起發揮了重要作用,他們提醒這個行業要注意危險。他還認為這幫人夸大了這些危險。
隨著 OpenAI 開發出 ChatGPT,包括谷歌和 Meta 在內的許多其他公司也在開發類似的技術。但選擇與世界分享技術的是奧特曼與 OpenAI。
這個領域有很多人批評這一決定,認為這引發了一場技術的發布競賽。這些技術會把東西搞錯,會捏造事情,并可能很快會被用來迅速傳播虛假信息。最近,意大利政府以擔心隱私問題和對向未成年人提供露骨內容為由暫時禁止該國使用 ChatGPT。
奧特曼認為,與其在全面發布之前完全閉門開發和測試這項技術,不如逐步將它共享出來會更安全,這樣每個人都可以更好地了解有哪些風險以及如何應對這些風險。
他告訴我,這將是一次“進展非常緩慢的起飛”。
當我問奧特曼,當人腦可以做的任何事情機器也可以做時,會不會最終將人類勞動的價格降為零,他表示反對。他說他沒法想象一個人類智慧將毫無用處的世界。
如果他錯了,他認為自己也可以彌補人類。
他已經對 OpenAI 進行了重組,讓這家公司變成他所謂的有利潤上限(capped-profit)的公司。正因為次,他才可以通過向微軟等投資者承諾出讓利潤來尋求數十億美元的融資。但這些利潤是有上限的,任何額外的收入都將被抽回到 2015 年成立的那家 OpenAI 非營利組織。
他有一個宏偉想法,那就是 OpenAI 將通過創建出 AGI 來獲取全世界大部分的財富,然后將這些財富重新分配給人們。在納帕,當我們坐在他牧場中心的湖邊聊天時,他拋出了幾個數字——1000 億美元、1 萬億美元、100 萬億美元。
如果 AGI 確實能創造出所有這些財富的話,他不確定公司將如何重新分配這些財富。在這個新世界里,金錢可能意味著非常不一樣的東西。
但正如他曾經告訴我的那樣:“我覺得 AGI 在這方面可以提供幫助。”
關鍵詞:
凡注有"實況網-重新發現生活"或電頭為"實況網-重新發現生活"的稿件,均為實況網-重新發現生活獨家版權所有,未經許可不得轉載或鏡像;授權轉載必須注明來源為"實況網-重新發現生活",并保留"實況網-重新發現生活"的電頭。