太平洋科技 要聞

丨劃重點(diǎn)

① 【OpenAI董事會(huì)風(fēng)波】這段經(jīng)歷讓奧特曼認(rèn)識(shí)到，在追求通用人工智能（AGI）的過程中，可能會(huì)遇到一系列爆炸性的事件，這些事件雖然令人不安，但也為未來的挑戰(zhàn)提供了寶貴的經(jīng)驗(yàn)和教訓(xùn)。

② 【首席科學(xué)家蘇茨凱弗的未來動(dòng)向】盡管他近期相對(duì)沉默，但奧特曼表示，蘇茨凱弗一直在深入思考并確保OpenAI在追求AGI的過程中做出正確的決策。

③ 【與埃隆·馬斯克的法律紛爭】奧特曼表示不清楚馬斯克的真實(shí)動(dòng)機(jī)，但他認(rèn)為OpenAI的初衷是作為一個(gè)人工智能研究實(shí)驗(yàn)室，逐步探索和發(fā)展，OpenAI的使命是將強(qiáng)大的技術(shù)免費(fèi)提供給公眾。

④ 【Sora和GPT-5】奧特曼對(duì)Sora的發(fā)展表示樂觀，認(rèn)為它在理解和模擬三維世界方面取得了令人印象深刻的進(jìn)步，但也提到了Sora的局限性。GPT-5作為新一代大語言模型，雖然未在專訪中詳細(xì)討論，但它預(yù)示著OpenAI在自然語言處理領(lǐng)域的持續(xù)進(jìn)步。

⑤ 【通用人工智能的遠(yuǎn)景規(guī)劃】OpenAI的“開放”不僅僅是關(guān)于開源，而是關(guān)于將技術(shù)作為公共福利提供給人們。

⑥【ChatGPT記憶能力】未來的AI助手不僅可以記住用戶希望它記住的事情，還能從中吸取教訓(xùn)，并在未來提醒用戶該怎么做或者要注意什么。

⑦【7萬億美元芯片項(xiàng)目】奧特曼否認(rèn)自己發(fā)推文宣稱要籌資7萬億美元，但他承認(rèn)世界需要大量的算力支持，而能源供應(yīng)、數(shù)據(jù)中心和供應(yīng)鏈建設(shè)、制造足夠芯片都存在巨大挑戰(zhàn)。

⑧【沒興趣打造翻版谷歌】奧特曼對(duì)于打造比谷歌更好的搜索引擎沒興趣，認(rèn)為這是將AI大材小用。他希望將大語言模型與搜索相結(jié)合，從而找到自己的商業(yè)模式。他還稱自己討厭廣告。

⑨【AGI何時(shí)會(huì)出現(xiàn)】奧特曼預(yù)計(jì)，在2030年之前，或者可能比那更早，我們將擁有非常強(qiáng)大的AI系統(tǒng)。他稱，AGI不是終點(diǎn)，它更接近是一個(gè)起點(diǎn)。

以下為此次專訪實(shí)錄全文：

OpenAI董事會(huì)風(fēng)波

萊克斯·弗里德曼：請(qǐng)帶我們回顧下從2023年11月16日周四開始的OpenAI董事會(huì)風(fēng)波，也許是11月17日周五。

奧特曼：那絕對(duì)是我一生中最痛苦的職業(yè)經(jīng)歷，充滿了混亂、羞恥、沮喪以及其他一大堆負(fù)面的東西。不過，其中也不乏值得珍藏的美好瞬間。我希望自己當(dāng)時(shí)能夠保持冷靜，不被過度的腎上腺素沖昏頭腦，從而能夠停下來細(xì)細(xì)品味那些寶貴的經(jīng)歷。

但當(dāng)我看到那時(shí)候發(fā)的推文時(shí)，感覺這就像自己的悼詞，記錄著人們?cè)谀莻�(gè)特殊時(shí)期對(duì)我的贊美和支持�？吹竭@些推文，我深感欣慰，也感受到了身邊人的愛與關(guān)心。真是太棒了！整個(gè)周末，盡管遭遇了一些不愉快的事情，但總體而言，我感受到的愛遠(yuǎn)遠(yuǎn)超過了恨。

盡管我不知道到底發(fā)生了什么，也不知道將要發(fā)生什么，這感覺真的很糟糕。確實(shí)有很多時(shí)候，我認(rèn)為這將是人工智能安全有史以來最糟糕的事情之一。但我也很慶幸這一切發(fā)生得相對(duì)較早。我認(rèn)為，在OpenAI成立和通用人工智能（AGI）誕生的過程中，注定會(huì)有一系列瘋狂且具有爆炸性的事件發(fā)生。這些事件雖然令人不安，但也為我們提供了寶貴的經(jīng)驗(yàn)和教訓(xùn)，為未來應(yīng)對(duì)更多挑戰(zhàn)做好了準(zhǔn)備。

萊克斯·弗里德曼：但你自己有一種感覺，你會(huì)經(jīng)歷某種權(quán)力斗爭？

奧特曼：確實(shí)，通往通用人工智能的道路可能會(huì)涉及多方面的權(quán)力斗爭。我希望是這樣。

萊克斯·弗里德曼：所以，你必須要經(jīng)歷這些。正如您所言，我們需要深思熟慮如何構(gòu)建董事會(huì)架構(gòu)，如何有效組織，以及如何與合作伙伴溝通，力求在最大程度上減少權(quán)力斗爭的發(fā)生。

奧特曼：是的。回首過去，那段經(jīng)歷確實(shí)令人不悅，充滿了艱難和痛苦。然而，當(dāng)我們重新投入工作時(shí)，繁忙和緊張的節(jié)奏讓我無暇過多沉湎于過去的情緒。在那之后的一個(gè)月，也許是45天里，我仿佛處于一種游離的狀態(tài)，每天都像是在漂泊，思緒并不清晰。那時(shí)的我，情緒異常低落，仿佛被陰影籠罩。

萊克斯·弗里德曼：你對(duì)董事會(huì)審議過程的參與度和嚴(yán)謹(jǐn)性有了解嗎？你能談?wù)勗谶@種情況下涉及的人際關(guān)系動(dòng)態(tài)嗎？是不是只是幾次對(duì)話，然后事態(tài)突然激化，然后就有人提出“為什么我們不解雇山姆”之類的建議？

奧特曼：我認(rèn)為董事會(huì)成員總體上都是出于好意的人，我相信在那種壓力環(huán)境下，人們感到時(shí)間緊迫或其他什么，人們會(huì)做出不那么明智的決定都可以理解。我認(rèn)為OpenAI面臨的挑戰(zhàn)之一將是，我們需要有一個(gè)擅長在壓力下運(yùn)作的董事會(huì)和團(tuán)隊(duì)。

萊克斯·弗里德曼：你認(rèn)為董事會(huì)的權(quán)力過大了嗎？

奧特曼：我認(rèn)為董事會(huì)應(yīng)該有很大的權(quán)力，但我們確實(shí)看到的一件事是，在大多數(shù)公司架構(gòu)中，董事會(huì)通常要對(duì)股東負(fù)責(zé)。有時(shí)人們擁有超級(jí)投票權(quán)或其他什么。在這種情況下，我認(rèn)為我們結(jié)構(gòu)中的一個(gè)問題是，我們可能沒有充分考慮到非營利組織董事會(huì)實(shí)際上掌握著很大的權(quán)力，除非你有其他規(guī)定。他們并不真正向任何人負(fù)責(zé)，基本上只對(duì)自己負(fù)責(zé)。這在某些方面是好的，但我們真正希望的是OpenAI的董事會(huì)能夠?qū)φ麄�(gè)世界負(fù)責(zé)，盡管這在實(shí)踐中可能很難實(shí)現(xiàn)。

萊克斯·弗里德曼：所以你們宣布組建新的董事會(huì)。

奧特曼：是的。

萊克斯·弗里德曼：我想一開始有一個(gè)新的、規(guī)模較小的董事會(huì)，現(xiàn)在有一個(gè)新的最終董事會(huì)嗎？

奧特曼：還不是最終的董事會(huì)。我們?cè)黾恿艘恍┤�，還會(huì)增加更多。

萊克斯·弗里德曼：在新的董事會(huì)中，有哪些是之前那個(gè)董事會(huì)中可能存在的問題，現(xiàn)在得到了解決？

奧特曼：原董事會(huì)在一年的時(shí)間里規(guī)模變小了。原本是九個(gè)人，后來減少到六個(gè)人，然后我們無法就新增成員達(dá)成一致。此外，我認(rèn)為董事會(huì)也沒有太多經(jīng)驗(yàn)豐富的董事會(huì)成員，而OpenAI的很多新董事會(huì)成員在作為董事會(huì)成員方面更有經(jīng)驗(yàn)。我認(rèn)為這將有所幫助。

萊克斯·弗里德曼：有人批評(píng)了新加入董事會(huì)的一些人。例如，我聽到了很多人批評(píng)拉里·薩默斯（Larry Summers）的加入。那么選擇董事會(huì)成員的過程是怎樣的？涉及哪些因素？

奧特曼：選擇布雷特·泰勒（Bret Taylor）和薩默斯為董事會(huì)成員是在那個(gè)非常緊張的周末做出的決定，而那個(gè)周末真是就像坐過山車一樣，給人一種大起大落的感覺。我們?cè)噲D就新的董事會(huì)成員達(dá)成一致，這些成員既要讓這里的執(zhí)行團(tuán)隊(duì)感到滿意，也要得到原董事會(huì)成員的認(rèn)可。

實(shí)際上，薩默斯是原董事會(huì)成員推薦的人選之一。至于布雷特，我想在那個(gè)瘋狂周末之前，我就提議過他，但他當(dāng)時(shí)很忙，不想接受這份工作。之后，我們確實(shí)需要幫助，他才加入進(jìn)來。我們也考慮了很多其他人選，但我覺得如果我回來的話，我需要更換新的董事會(huì)成員。我不認(rèn)為我可以在同樣的人員配置下再次與原董事會(huì)合作，盡管后來我們決定讓亞當(dāng)·德安吉洛（Adam D'Angelo）留下。但我們考慮了各種配置，最終決定想要組建一個(gè)三人的董事會(huì)，并需要短時(shí)間內(nèi)找到兩名新的董事會(huì)成員。

所以那些決定確實(shí)是直接做出的，你必須在戰(zhàn)場上迅速做出決定。那時(shí)你沒有時(shí)間設(shè)計(jì)嚴(yán)格的流程。對(duì)于之后的新的董事會(huì)成員，以及我們還將要繼續(xù)添加的新成員，我們有一些認(rèn)為對(duì)董事會(huì)來說重要的標(biāo)準(zhǔn)，我們希望這些人具備的不同專長。與招聘一名高管不同，他只需要把一個(gè)角色做好，但對(duì)于董事會(huì)成員來說，他需要需要在治理和思考方面表現(xiàn)出全方位的能力。因此，布雷特說的一句話我很認(rèn)同，那就是我們想要以成批的形式招聘董事會(huì)成員，而不是一次一個(gè)地招聘。我們正在考慮的是一群能夠帶來非營利組織專業(yè)知識(shí)、公司運(yùn)營專業(yè)知識(shí)、良好的法律和治理專業(yè)知識(shí)的人，這是我們?cè)噲D優(yōu)化的目標(biāo)。

萊克斯·弗里德曼：那么，對(duì)于單個(gè)董事會(huì)成員來說，技術(shù)素養(yǎng)重要嗎？

奧特曼：不是每個(gè)董事會(huì)成員都需要這類素養(yǎng)，但確實(shí)有一些人需要。這也是董事會(huì)職責(zé)一部分。

萊克斯·弗里德曼：關(guān)于OpenAI，人們可能不了解的有趣的一點(diǎn)是，我當(dāng)然也不了解，那就是經(jīng)營公司的所有細(xì)節(jié)。當(dāng)人們想到董事會(huì)時(shí)，鑒于其中的戲劇化元素，他們可能首先會(huì)想到你。他們會(huì)想：如果你開發(fā)出AGI或你創(chuàng)造出一些極具影響力的產(chǎn)品，并成功將它們推向市場，你和董事會(huì)之間的對(duì)話會(huì)是什么樣的？他們可能還會(huì)想：在那種情況下，應(yīng)該有什么樣的合適團(tuán)隊(duì)來進(jìn)行決策和討論？

奧特曼：我認(rèn)為，董事會(huì)中確實(shí)需要一些技術(shù)專家。同時(shí)，你需要一些能夠思考“我們?nèi)绾尾渴疬@項(xiàng)技術(shù)才能最大限度造福人類？”的人，還需要一些持有不同觀點(diǎn)的人。我認(rèn)為你我可能會(huì)犯的一個(gè)錯(cuò)誤是，認(rèn)為只有理解技術(shù)才是挑選董事會(huì)成員的重要標(biāo)準(zhǔn)，這當(dāng)然是董事會(huì)應(yīng)該討論的一部分，但關(guān)于這項(xiàng)技術(shù)將如何影響社會(huì)和人們的生活，你也也同樣希望能夠在董事會(huì)中得到體現(xiàn)。

萊克斯·弗里德曼：你在考慮人選時(shí)，是更看重他們的過往經(jīng)歷，還是只是與他們交談即可？

奧特曼：過往經(jīng)歷很重要。當(dāng)然，你們會(huì)進(jìn)行很多交談，但有些職位我完全不看重過往經(jīng)歷，只看他的上升勢頭，忽略掉Y軸的截距。

萊克斯·弗里德曼：謝謝。謝謝你為觀眾用數(shù)學(xué)的方式做出解釋。

奧特曼：對(duì)于董事會(huì)成員，我確實(shí)更看重Y軸截距。我認(rèn)為過往經(jīng)歷中有一些深刻的東西可以說，經(jīng)驗(yàn)是很難被替代的。

萊克斯·弗里德曼：你嘗試將過往經(jīng)歷擬合為多項(xiàng)式函數(shù)還是指數(shù)函數(shù)？

奧特曼：這個(gè)類比不太合適。

萊克斯·弗里德曼：好的。你之前提到了那個(gè)瘋狂周末遭遇的一些低谷。對(duì)你來說，心理上還有哪些低谷？你有沒有考慮過去亞馬遜叢林里喝下亞胡阿斯卡（一種致幻劑），然后永遠(yuǎn)消失？

奧特曼：那是一段非常糟糕的時(shí)期。當(dāng)然，也有一些很棒的時(shí)刻。我的手機(jī)不斷收到與我日常合作的人以及那些我已經(jīng)十年沒聯(lián)系過的人發(fā)來的關(guān)懷信息。因?yàn)槲耶?dāng)時(shí)正處于危機(jī)之中，因此沒有太多時(shí)間去回應(yīng)，沒能充分感受到這份溫暖，但這確實(shí)讓人感到很棒�？偟膩碚f，那是一個(gè)非常痛苦的周末。就像是在公眾面前進(jìn)行的一場戰(zhàn)斗，讓我感到非常疲憊，比我預(yù)想的還要難受。我認(rèn)為爭斗通常都很累人，但這次真的特別疲憊。董事會(huì)是在周五下午做出決定的。我并沒有得到太多答復(fù)，但我也認(rèn)為，董事會(huì)有權(quán)這么做，所以我會(huì)稍微花點(diǎn)時(shí)間思考一下我接下來想做什么，但我也會(huì)努力從中找到隱藏的祝福。

我當(dāng)時(shí)心想，我目前在OpenAI的工作，或者之前的工作，是經(jīng)營一家規(guī)模相當(dāng)大的公司。而我一直最喜歡的事情就是與研究者們一起工作。然后我就想，我可以非常專注地去做AGI的研究工作。我開始對(duì)這個(gè)想法感到興奮。當(dāng)時(shí)我甚至沒有想到這一切都會(huì)化為泡影。那已經(jīng)是周五下午了。

萊克斯·弗里德曼：所以你接受了這樣的終結(jié)——

奧特曼：非�？�，真的非�？臁Ｎ医�(jīng)歷了一段短暫的迷茫和憤怒，但這種負(fù)面狀態(tài)很快就過去了。到了周五晚上，我已經(jīng)在和別人討論下一步要做什么了，而且我對(duì)此感到很興奮。我記得是周五晚上，我第一次從這里的執(zhí)行團(tuán)隊(duì)那里聽到消息，他們說：“嘿，我們要抗?fàn)幍降住?rdquo;然后我就去睡覺了，心里還是想著：我很興奮，繼續(xù)前進(jìn)！

萊克斯·弗里德曼：你睡得好嗎？

奧特曼：根本就沒怎么睡。奇怪的是，有一段四天半的時(shí)間，我睡得很少，吃得也不多，但還是精力充沛。戰(zhàn)時(shí)你會(huì)學(xué)到一些關(guān)于腎上腺素的奇怪事情。

萊克斯·弗里德曼：所以你接受了這樣的結(jié)局，OpenAI這個(gè)被你視為“孩子”的公司迎來了失敗的一天。

奧特曼：我對(duì)新的事物都感到興奮。我心想：“行吧，這玩意兒確實(shí)瘋了點(diǎn)，但管它呢！”

萊克斯·弗里德曼：這是一個(gè)很好的應(yīng)對(duì)機(jī)制。

奧特曼：然后到了周六早上，兩位董事會(huì)成員打來電話說：“嘿，我們不想攪局。我們不想在這里儲(chǔ)存太多價(jià)值。我們能談?wù)勀慊貋淼氖聠幔?rdquo;最初，我不想回去，但后來又仔細(xì)地想了想，我還是覺得，我真的很關(guān)心這里的人、合作伙伴和股東們。我愛這家公司。所以我對(duì)他們說：“好吧，但我有自己的條件。”然后在那個(gè)周末最痛苦的時(shí)候，我一直在反思，也被告知，不僅僅是我，整個(gè)團(tuán)隊(duì)都在想，我們?cè)噲D努力維持OpenAI的穩(wěn)定，而那時(shí)整個(gè)世界都在試圖讓它分崩離析，人們?cè)噲D招募我們的人。

我們一直被告知：“好了，我們快要弄完了。我們快要完成了。我們只需要再多一點(diǎn)點(diǎn)時(shí)間。”這是一種非�；靵y的狀態(tài)，直到周日晚上，我?guī)缀趺扛魩讉�(gè)小時(shí)就期待這種混亂能夠結(jié)束，找到一種讓我回去的方法，讓事情恢復(fù)到原來的樣子。但董事會(huì)隨后任命了一位新的臨時(shí)首席執(zhí)行官，我當(dāng)時(shí)就覺得，這感覺真的很糟糕。那是整個(gè)事件的最低谷時(shí)刻。我告訴你，這感覺很痛苦，但整個(gè)周末我感受到了很多關(guān)懷。除了周日晚上的那一瞬間，我不會(huì)用憤怒或仇恨來形容我的情緒，但我感受到了人們對(duì)我的愛。雖然痛苦，但那個(gè)周末的主導(dǎo)情緒是愛，而不是恨。

萊克斯·弗里德曼：你曾高度贊揚(yáng)了米拉·穆拉蒂（Mira Murati），你說她在你推文中提到的關(guān)鍵時(shí)刻給予了你特別幫助。也許我們可以稍微偏離一下主題。你欣賞穆拉蒂哪些品質(zhì)？

奧特曼：她在那個(gè)周末的混亂中做得很好，人們往往在危機(jī)時(shí)刻才會(huì)關(guān)注領(lǐng)導(dǎo)者的表現(xiàn)，無論是好是壞。但我真正欣賞這類領(lǐng)導(dǎo)者的一點(diǎn)是，他們?cè)谄椒驳闹芏�早�?點(diǎn)46分和日常繁瑣工作中是如何表現(xiàn)的。他們?nèi)绾纬鱿瘯?huì)議，他們做決策的質(zhì)量如何。這就是我所指的“靜默時(shí)刻”。

萊克斯·弗里德曼：這意味著大部分工作都是在日復(fù)一日、一次次的會(huì)議中完成的。只要保持專注，并做出明智的決策即可。

奧特曼：是的。你看，過去20分鐘你想談?wù)摰�，我理解的，是那一個(gè)非常瘋狂的周末，但那并不是OpenAI的真正意義所在。OpenAI真正重要的是過去的七年。

萊克斯·弗里德曼：嗯，確實(shí)如此。人類文明可不僅僅關(guān)于納粹德國入侵蘇聯(lián)，盡管人們?nèi)匀魂P(guān)注這一點(diǎn)。

奧特曼：這是完全可以理解的。

蘇茨凱弗還有另一面

萊克斯·弗里德曼：它能幫助我們洞察人性，人性的極端，也許人類文明的某些成就和某些損害就是在這些時(shí)刻發(fā)生的。人類文明的某些毀壞和偉大成就得以顯現(xiàn)，因此這非常具有啟發(fā)性。下面，讓我問你關(guān)于伊利亞·蘇茨凱弗（Ilya Sutskever）的事情。他是不是被劫持在一個(gè)秘密的核設(shè)施里充當(dāng)人質(zhì)？

奧特曼：當(dāng)然不是。

萊克斯·弗里德曼：那是被藏在普通的秘密設(shè)施里？

奧特曼：也不是。

萊克斯·弗里德曼：這事兒都快成梗了。你認(rèn)識(shí)伊利亞很久了，對(duì)吧？他顯然卷入了董事會(huì)那場風(fēng)波，還有那一大堆亂七八糟的事情。你現(xiàn)在和他關(guān)系怎么樣？

奧特曼：我依然喜歡伊利亞。我非常尊重他。關(guān)于他現(xiàn)在的計(jì)劃，我無可奉告。那是他的問題，該由他來回答。但我真的很希望在我職業(yè)生涯的剩余時(shí)間里，我們能繼續(xù)一起工作。他比我年輕一些，也許他還會(huì)再工作久一些。

萊克斯·弗里德曼：有一個(gè)搞笑梗說伊利亞好像看到了什么東西，比如他可能看到了通用人工智能，這讓他內(nèi)心充滿了憂慮。伊利亞到底看到了什么？

奧特曼：伊利亞從來沒有看到通用人工智能。我們?nèi)魏稳硕紱]有看到過。我們還沒有開發(fā)出通用人工智能。不過，伊利亞身上有很多讓我敬佩的品質(zhì)，其中之一是他非常重視通用人工智能及其廣泛的安全問題，包括這項(xiàng)技術(shù)將對(duì)社會(huì)產(chǎn)生的影響。隨著我們繼續(xù)取得重大進(jìn)展，伊利亞是過去幾年里我花最多時(shí)間討論這將意味著什么的人之一，討論我們需要做什么來確保我們做得正確，確保我們成功地完成使命。所以，雖然伊利亞沒有看到通用人工智能，但他在思考并確保我們?cè)谶@個(gè)過程中做得正確，這對(duì)人類來說是一份巨大貢獻(xiàn)。

萊克斯·弗里德曼：我以前和他聊過很多次。我認(rèn)為當(dāng)他談?wù)摷夹g(shù)時(shí)，總是進(jìn)行這種長期思考。所以他不是在想一年后會(huì)怎么樣，而是在想十年后的事情，只是從首要原則開始思考，比如“好吧，如果這項(xiàng)技術(shù)能夠擴(kuò)展開來，這里的根本要素是什么？它將走向何方？” 這也是他思考所有其他安全問題和所有類似問題的基礎(chǔ)，這使得與他交談非常有趣。你知道他為什么近來變得沉默了嗎？他是在進(jìn)行自我反思嗎？

奧特曼：再次強(qiáng)調(diào)下，我不想代表伊利亞發(fā)言。我覺得你應(yīng)該問問他本人。他確實(shí)是一個(gè)習(xí)慣深入思考的人。我覺得伊利亞總是在以一種非常好的方式進(jìn)行靈魂探索。

萊克斯·弗里德曼：對(duì)，沒錯(cuò)。而且，他也很懂得沉默的力量。另外，我聽說他有時(shí)也挺逗的，但我從沒見過他那一面。

奧特曼：那樣的他真的很可愛。

萊克斯·弗里德曼：我從沒見過逗比的伊利亞，但我也很期待看到那一面。

奧特曼：我最近和他一起參加了一個(gè)晚宴，他當(dāng)時(shí)正在和一只小狗玩，心情非常放松，那場景相當(dāng)溫馨！我當(dāng)時(shí)就想，哇，這不是世界最常見的伊利亞。

萊克斯·弗里德曼：那么，就這整樁事情而言，你對(duì)董事會(huì)的架構(gòu)滿意嗎？

奧特曼：是的。

萊克斯·弗里德曼：關(guān)于這一切及其走向，你有什么看法？

奧特曼：我對(duì)新組建的董事會(huì)感覺很滿意。在OpenAI的架構(gòu)方面，董事會(huì)的一項(xiàng)職責(zé)就是要審視并找出我們可以使其更加穩(wěn)健的地方。我們?cè)�本想先安排新的董事�?huì)成員到位，但顯然，在這個(gè)過程中，我們?cè)诮Y(jié)構(gòu)方面學(xué)到了一個(gè)教訓(xùn)。我覺得我沒有太多深刻的見解要說。這是一次瘋狂、非常痛苦的經(jīng)歷。我覺得這是各種奇怪情況的完美風(fēng)暴。這次經(jīng)歷讓我預(yù)見到了未來的挑戰(zhàn)：隨著賭注的提高，我們將需要更加穩(wěn)健的治理結(jié)構(gòu)和流程，以及更加合適的人選。我很高興這件事發(fā)生在我還年輕的時(shí)候，但經(jīng)歷它確實(shí)非常痛苦。

萊克斯·弗里德曼：這件事會(huì)讓你在信任他人時(shí)變得更加猶豫嗎？

奧特曼：會(huì)。

萊克斯·弗里德曼：只是在個(gè)人層面嗎？

奧特曼：是的。我自認(rèn)為是一個(gè)非常信任他人的人。我的人生哲學(xué)一直是不要過于擔(dān)憂所有的偏執(zhí)狂想，不要擔(dān)心那些邊緣情況。即便你稍微吃點(diǎn)虧，換來的是可以放下防備地生活。然而，這次經(jīng)歷對(duì)我來說太震撼了。我完全措手不及，它確實(shí)改變了我。我真的不喜歡這種感覺，但它確實(shí)改變了我對(duì)人的默認(rèn)信任和對(duì)糟糕情況的應(yīng)對(duì)方式。

萊克斯·弗里德曼：你得在這方面小心一點(diǎn)。你擔(dān)心自己會(huì)變得過于憤世嫉俗嗎？

奧特曼：我不擔(dān)心自己會(huì)變得過于憤世嫉俗。我認(rèn)為自己與憤世嫉俗的人截然相反，但我擔(dān)心自己會(huì)變得不那么容易信任他人。

萊克斯·弗里德曼：實(shí)際上，對(duì)于正在開發(fā)通用人工智能（AGI）的人來說，我不清楚應(yīng)該選擇信任模式還是不信任模式來行動(dòng)才是最好的。這是一次有趣的旅程。但在結(jié)構(gòu)方面，我更關(guān)注人性層面。你如何讓自己身邊圍繞著既能構(gòu)建出色事物，又能做出明智決策的人？因?yàn)殡S著你開始賺更多的錢，這個(gè)東西擁有更大影響力，周圍的人們可能會(huì)變得越來越奇怪。

奧特曼：關(guān)于董事會(huì)成員以及我應(yīng)該持有的信任程度，或者我應(yīng)該如何以不同的方式行事，你可以提出各種看法。但就這里的團(tuán)隊(duì)而言，我想你會(huì)給我非常高的評(píng)價(jià)。我對(duì)我每天一起工作的人們懷有巨大的感激、信任和尊重，我認(rèn)為被這樣的人們包圍著真的非常重要。

關(guān)于馬斯克的訴訟

萊克斯·弗里德曼：我們共同的朋友馬斯克起訴了OpenAI。你認(rèn)為他批評(píng)的實(shí)質(zhì)問題是什么？他有多少批評(píng)能站得住腳？又有多少是錯(cuò)的？

奧特曼：我真的不知道這究竟是怎么回事。我們一開始只是想成為一個(gè)人工智能研究實(shí)驗(yàn)室，對(duì)這項(xiàng)技術(shù)將如何發(fā)展一無所知。因?yàn)槟鞘瞧甙四昵暗氖铝�，現(xiàn)在想回憶起當(dāng)時(shí)的情況真的很難。那時(shí)大語言模型還沒有成為人們關(guān)注的熱門話題。我們還沒想到要開發(fā)API或銷售聊天機(jī)器人訪問權(quán)限，也沒有想過要將其產(chǎn)品化，我們只是想，“我們要努力做研究，但我們真的不知道要用它做什么。”我認(rèn)為，對(duì)于許多全新的事物來說，你開始時(shí)總是摸著石頭過河，做一些假設(shè)，其中大多數(shù)最后都被證明是錯(cuò)誤的。

然后，我們逐漸明確需要采取不同的做法，并且需要更多的資金。所以我們說，“行吧，現(xiàn)在的結(jié)構(gòu)并不適合這些。我們?nèi)绾握{(diào)整結(jié)構(gòu)呢？”然后你只能一次次地修補(bǔ)它，最后你得到的東西至少看起來不禁讓人皺眉。但我認(rèn)為，我們是一步一步地逐漸走到這里的，每個(gè)階段都做出了合理的決策。這并不意味著如果有機(jī)會(huì)回到過去，我會(huì)完全采取不同的做法，但問題是當(dāng)時(shí)我們并沒有先知。不管怎樣，至于埃隆真正的動(dòng)機(jī)是什么，我真的不清楚。

萊克斯·弗里德曼：就你所記得的，OpenAI在博客文章中是如何回應(yīng)埃隆訴訟的？你能概括一下嗎？

奧特曼：哦，我們只是提到了埃隆提出的一系列觀點(diǎn)。這是我們的陳述，或者這不是我們的陳述。這是對(duì)這件事發(fā)生過程的描述。我們盡量不帶有個(gè)人情緒，只是陳述，“這就是歷史。”

萊克斯·弗里德曼：我認(rèn)為埃隆在這里對(duì)你剛才提到的一點(diǎn)有些誤解，那就是你們當(dāng)時(shí)的不確定性程度有多大。你們只是有幾個(gè)人的研究團(tuán)隊(duì)，瘋狂地談?wù)撝鳤GI，而當(dāng)時(shí)所有人都在嘲笑這個(gè)想法。

奧特曼：不久之前，埃隆還在瘋狂地談?wù)摪l(fā)射火箭，而當(dāng)時(shí)人們也在嘲笑這個(gè)想法，所以我認(rèn)為他會(huì)對(duì)這件事產(chǎn)生更多共鳴。

萊克斯·弗里德曼：我認(rèn)為這里確實(shí)有一些個(gè)人因素，OpenAI和許多這里的杰出人才選擇與埃隆分道揚(yáng)鑣，所以存在個(gè)人層面的因素——

奧特曼：是埃隆選擇分道揚(yáng)鑣。

萊克斯·弗里德曼：你能具體描述一下當(dāng)時(shí)你們分道揚(yáng)鑣的情況嗎？

奧特曼：他認(rèn)為OpenAI將會(huì)失敗，他希望能夠完全掌控并扭轉(zhuǎn)局勢。而我們則希望繼續(xù)朝著現(xiàn)在OpenAI的方向前進(jìn)。他還希望特斯拉能夠開展AGI項(xiàng)目。在不同時(shí)期，他都想把OpenAI變成一家盈利公司，由他掌控，或者與特斯拉合并。但我們不想這么做，于是他決定離開，這其實(shí)挺好的。

萊克斯·弗里德曼：所以你的意思是，正如OpenAI博客文章中也提到的，他希望OpenAI能被特斯拉收購，或許是與微軟的合作方式有點(diǎn)相似，或者說可能是一種更為戲劇化的形式。

奧特曼：我記得當(dāng)時(shí)的提議就是，是的，被特斯拉收購，并讓特斯拉完全控制它。我很確定提議就是這個(gè)意思。

萊克斯·弗里德曼：那么，在當(dāng)時(shí)的情況下，OpenAI這個(gè)詞中的“open”對(duì)埃隆來說意味著什么？伊利亞在電子郵件交流和其他一些內(nèi)容中談到了這一點(diǎn)。在當(dāng)時(shí)，這個(gè)詞對(duì)你意味著什么？現(xiàn)在對(duì)你又意味著什么？

奧特曼：如果能夠重新來過，我會(huì)選擇一個(gè)不同的名字。我認(rèn)為OpenAI正在做的最重要的事情之一，就是將強(qiáng)大的技術(shù)免費(fèi)地交到人們手中，作為一種公共福利。我們沒有在免費(fèi)版本上投放廣告，也沒有以其他方式將其商業(yè)化。我們只是認(rèn)為這是我們的使命，即將越來越強(qiáng)大的工具免費(fèi)交到人們手中，并讓他們使用它們。我認(rèn)為這種“開放”對(duì)我們的使命來說非常重要。我認(rèn)為，如果你給人們提供絕佳的工具，并教他們?nèi)绾问褂茫�或者甚至不用教他們，他們自己也�?huì)摸索出來，然后讓他們用這些工具共同構(gòu)建一個(gè)不可思議的未來，這將是意義重大的。因此，如果我們能夠繼續(xù)向世界推出免費(fèi)或低成本甚至免費(fèi)的強(qiáng)大AI工具，這將極大地推進(jìn)我們的使命。至于是否“開源”，我認(rèn)為我們應(yīng)該對(duì)一些東西開源，而對(duì)另一些則不開源。這往往會(huì)變成一場宗教般的信仰之爭，很難保持中立，但我認(rèn)為找到平衡點(diǎn)才是正確的答案。

萊克斯·弗里德曼：埃隆已經(jīng)說過：“如果你們將公司名字改成CloseAI，我就放棄訴訟。”我意思是說，這會(huì)變成關(guān)于名字的梗嗎？

奧特曼：我覺得這反映了埃隆對(duì)這次訴訟的認(rèn)真態(tài)度，我認(rèn)為這樣說真是令人驚訝。

萊克斯·弗里德曼：也許我說得不對(duì)，但我不認(rèn)為這次訴訟在法律上是嚴(yán)肅的。更多的是為了表明對(duì)AGI未來和目前領(lǐng)先公司的看法。

奧特曼：看，我的意思是，直到人們指出這有點(diǎn)虛偽之前，Grok并沒有開源任何東西。然后，埃隆才宣布Grok本周將開源一些東西。我不認(rèn)為開源與否是他真正關(guān)心的問題。

萊克斯·弗里德曼：好的，我們會(huì)談?wù)勯_源與不開源的問題。我倒是覺得，也許批評(píng)競爭對(duì)手是件好事，只是稍微抱怨一下也無傷大雅。但這得是建立在友好競爭的基礎(chǔ)上，比起來，我個(gè)人真是非常討厭打官司。

奧特曼：我認(rèn)為整件事都不像一個(gè)建設(shè)者應(yīng)該做的。我尊重埃隆。他是我們這個(gè)時(shí)代最偉大建設(shè)者之一。我知道他了解被仇恨者攻擊的滋味，這讓我感到格外難過，他居然也這樣做。

萊克斯·弗里德曼：是的，他可以說是有史以來最偉大的建設(shè)者之一，甚至可能是有史以來最偉大的建設(shè)者。

奧特曼：這讓我感到難過。我認(rèn)為這也讓很多人感到難過。有很多人長期以來一直仰慕他。我在接受采訪時(shí)也曾經(jīng)說過，我懷念以前的埃隆，結(jié)果我收到了很多回復(fù)，他們都說：“你的話完全表達(dá)了我的心聲。”

萊克斯·弗里德曼：我認(rèn)為他應(yīng)該直接獲勝。他應(yīng)該讓X的Grok擊敗GPT，然后GPT再反過來擊敗Grok，這就是競爭，對(duì)每個(gè)人來說都是一件好事。但關(guān)于開源的問題，你認(rèn)為有很多公司在探索這個(gè)概念嗎？這很有趣。我覺得Meta在這方面出人意料地走在了前面，或者至少是在真正開源模型這場棋局中邁出了第一步。當(dāng)然，他們開源的并不是最尖端的模型，不過他們開源了 Lama。谷歌也在考慮開放一個(gè)規(guī)模較小的版本。開源有什么優(yōu)缺點(diǎn)？你自己有沒有思考過這個(gè)問題？

奧特曼：是的，我認(rèn)為開源模型確實(shí)有其存在的必要，特別是那些人們可以在本地運(yùn)行的小型模型，我認(rèn)為這方面的需求非常大。我想將來會(huì)有一些開源模型，也會(huì)有一些閉源模型。在這方面，它與其他生態(tài)系統(tǒng)并無不同。

萊克斯·弗里德曼：我聽了所有與這次訴訟和其他相關(guān)話題有關(guān)的播客。他們更關(guān)心的是從非營利組織轉(zhuǎn)變?yōu)檫@種盈利上限結(jié)構(gòu)的先例。這對(duì)其他初創(chuàng)公司來說會(huì)樹立什么樣的先例？

奧特曼：我會(huì)強(qiáng)烈反對(duì)任何打算以非營利組織起步，后來再增加盈利部門的初創(chuàng)公司。我會(huì)強(qiáng)烈反對(duì)他們這樣做。我不認(rèn)為我們會(huì)在這里樹立先例。

萊克斯·弗里德曼：以這種方式創(chuàng)業(yè)，初創(chuàng)公司是不可能節(jié)省很多錢的。

奧特曼：沒錯(cuò)。我覺得有些法律會(huì)讓這種做法變得相當(dāng)棘手。

萊克斯·弗里德曼：關(guān)于你和埃隆之間的關(guān)系，你希望未來會(huì)如何發(fā)展？這種緊張感、這種互動(dòng)，你希望它們會(huì)變成什么樣？如果我們從現(xiàn)在往后看一、二、三年，你與他的個(gè)人關(guān)系，比如友誼、友好的競爭，以及所有這些互動(dòng)，你希望它們會(huì)如何發(fā)展？

奧特曼：我非常尊重埃隆，我希望在未來的歲月里，我們能夠保持友好的關(guān)系。

萊克斯·弗里德曼：我也希望你們這個(gè)月就能建立友好的關(guān)系，一起競爭、一起獲勝、一起探索這些想法。我猜你們之間肯定存在人才方面的競爭，但這應(yīng)該是友好的競爭，只為建造炫酷的東西。埃隆在建造這類東西方面非常擅長，你也一樣。

Sora：人們會(huì)以新的方式使用新工具

萊克斯·弗里德曼：說到炫酷的東西，Sora真的很吸引人，我有無數(shù)個(gè)問題想問。首先，它的確令人稱奇，無論是在產(chǎn)品層面還是在哲學(xué)層面。那么讓我從技術(shù)和哲學(xué)的角度問問你，你認(rèn)為Sora相對(duì)于GPT-4這樣的模型，對(duì)世界的理解是更多還是更少呢？當(dāng)你訓(xùn)練這些補(bǔ)丁而不是語言標(biāo)記時(shí)，世界模型會(huì)有什么不同嗎？

奧特曼：我覺得所有這些模型對(duì)世界模型的理解，實(shí)際上都比我們大多數(shù)人給予它們的贊譽(yù)要多。而且，因?yàn)樗鼈円睬宄�地知道自己不理解或沒有正確理解的東西，所以很容易看到它們的弱點(diǎn)，透過面紗看到真相，然后說，“啊，這都是假的。”但這并不是全部假的。只是其中一些部分有效，而另一些部分則無效。

我記得自己第一次看Sora生成視頻時(shí)的場景，你會(huì)看到有人走過來，擋住畫面幾秒鐘后又走開，而被遮擋的東西依舊在那兒。我當(dāng)時(shí)想到，“哦，這還不錯(cuò)。”或者有些例子中，在一系列動(dòng)作中，底層物理學(xué)的表現(xiàn)看起來如此出色，就像，“哦，這相當(dāng)令人印象深刻。”但從根本上說，這些模型只是在變得越來越好，這種進(jìn)步還將繼續(xù)。從DALL-E 1到DALL-E 2到DALL-E 3再到Sora的發(fā)展軌跡來看，有很多人對(duì)每個(gè)版本都進(jìn)行了批評(píng)，說它不能做這不能做那，但現(xiàn)在看看它們的表現(xiàn)如何。

萊克斯·弗里德曼：你剛才提到的遮擋問題，基本上就是模型對(duì)三維世界物理學(xué)的建模足夠好，以捕捉這類情況。也許你可以告訴我，為了處理遮擋問題，世界模型需要做什么呢？

奧特曼：我想說的是，它在處理遮擋方面做得非常好。如果我說它背后有一個(gè)很好的世界三維模型，那可能有點(diǎn)夸大其詞了。

萊克斯·弗里德曼：但是，你能否僅通過這種二維訓(xùn)練數(shù)據(jù)的方法來實(shí)現(xiàn)這個(gè)目標(biāo)呢？

奧特曼：看起來這種方法將會(huì)取得令人驚訝的進(jìn)展。我不想過多地猜測它將克服哪些限制，哪些不會(huì)，但是……

萊克斯·弗里德曼：你看到的這個(gè)系統(tǒng)有哪些有趣的限制？我知道你已經(jīng)發(fā)布了一些有趣的例子。

奧特曼：各種有趣的現(xiàn)象都有。比如說，在視頻的隨機(jī)位置，貓的身上突然多出了一個(gè)部位。你可以選擇你想看的，但還有很多問題，還有很多弱點(diǎn)。

萊克斯·弗里德曼：你認(rèn)為這是這種方法的一個(gè)根本缺陷嗎？還是只需要更大的模型、更好的技術(shù)、更好或更多的數(shù)據(jù)，就能解決貓身上突然多出部位的問題？

奧特曼：我認(rèn)為這些都需要。我覺得這種方法在某種程度上與我們習(xí)慣的思考和學(xué)習(xí)方式有所不同。同時(shí)，我也相信隨著規(guī)模的擴(kuò)大，模型將會(huì)變得更好。

萊克斯·弗里德曼：你認(rèn)為目前這種方法的某些限制是固有的，而不僅僅是因?yàn)槲覀冞�沒有足夠的數(shù)據(jù)或模型規(guī)模不夠大？

奧特曼：是的，我認(rèn)為確實(shí)有一些固有的限制。但我也相信，隨著時(shí)間的推移，隨著技術(shù)的進(jìn)步，我們將能夠找到方法來克服這些限制。我認(rèn)為這是一個(gè)不斷發(fā)展的領(lǐng)域，我們?nèi)栽谔剿髌溥吔纭?/p>

萊克斯·弗里德曼：就像我提到的，大語言模型有 token，文本 token，而 Sora 則有視覺補(bǔ)丁。它把所有的視覺數(shù)據(jù)，包括各種不同的視頻和圖片，都轉(zhuǎn)換成了補(bǔ)丁。訓(xùn)練過程可以說完全是自我監(jiān)督的嗎？還是會(huì)涉及到一些手動(dòng)標(biāo)注的工作？在整個(gè)過程中，人類發(fā)揮了怎樣的作用？

奧特曼：在不提及Sora具體培訓(xùn)方法的情況下，我們的工作中確實(shí)使用了大量的人類數(shù)據(jù)。

萊克斯·弗里德曼：但不是互聯(lián)網(wǎng)規(guī)模的數(shù)據(jù)？所以是有很多人類參與，但“大量”這個(gè)詞有點(diǎn)模糊。

奧特曼：我認(rèn)為在這種情況下，“大量”這個(gè)詞是恰當(dāng)?shù)摹?/p>

萊克斯·弗里德曼：我是個(gè)內(nèi)向的人，要是和三個(gè)人一起出去，對(duì)我來說人就已經(jīng)夠多的了。要是四個(gè)人，那簡直就是超負(fù)荷了。不過我猜你指的“大量”可能是比這……

奧特曼：對(duì)，確實(shí)是有不止三個(gè)人在給這些模型做數(shù)據(jù)標(biāo)注工作。

萊克斯·弗里德曼：好的，我明白了。但從根本上說，有大量的自我監(jiān)督學(xué)習(xí)。就像你在技術(shù)報(bào)告中提到的是互聯(lián)網(wǎng)規(guī)模的數(shù)據(jù)。那真是太美了，就像詩一樣。也就是說，這些數(shù)據(jù)中有很多是沒有人類標(biāo)注的，它們是以自我監(jiān)督的方式進(jìn)行學(xué)習(xí)的，對(duì)吧？

奧特曼：是的。

萊克斯·弗里德曼：那么問題是，互聯(lián)網(wǎng)上有多少數(shù)據(jù)可以用于這種自我監(jiān)督的學(xué)習(xí)方式，如果我們知道了自我監(jiān)督的詳細(xì)機(jī)制。你有沒有考慮過公開更多這方面的細(xì)節(jié)？

奧特曼：我們考慮過。你是說具體的數(shù)據(jù)來源嗎？

萊克斯·弗里德曼：對(duì)，具體來說就是來源。因?yàn)榉浅Ｓ腥さ氖�，大語言模型的魔法現(xiàn)在能否開始轉(zhuǎn)向視覺數(shù)據(jù)，實(shí)現(xiàn)這一點(diǎn)需要做什么？

奧特曼：我認(rèn)為從表面上看，確實(shí)有可能，但我們還有很多工作要做。

萊克斯·弗里德曼：那么有什么危險(xiǎn)呢？你為什么擔(dān)心發(fā)布這個(gè)系統(tǒng)？它可能存在哪些危險(xiǎn)？

奧特曼：坦白地說，我認(rèn)為在發(fā)布系統(tǒng)之前，我們必須要確保它足夠安全和可靠。盡管自我監(jiān)督學(xué)習(xí)的方法在處理大規(guī)模數(shù)據(jù)方面取得了很大進(jìn)展，但我們?nèi)匀恍枰�確保這些算法不會(huì)產(chǎn)生誤導(dǎo)性的結(jié)果或用于不正當(dāng)目的。例如，如果系統(tǒng)被用于生成深度偽造的內(nèi)容或傳播錯(cuò)誤信息，那么這將對(duì)社會(huì)產(chǎn)生負(fù)面影響。我們?cè)噲D成為一個(gè)負(fù)責(zé)任的公司，認(rèn)真考慮我們向世界發(fā)布的內(nèi)容，而不需要太多思考就能想到這項(xiàng)技術(shù)可能怎樣走向不好的方向。

萊克斯·弗里德曼：這里有很多棘手的問題，你正在一個(gè)非常困難的領(lǐng)域里工作。你認(rèn)為訓(xùn)練人工智能是否應(yīng)該或在版權(quán)法下屬于合理使用？

奧特曼：我認(rèn)為這個(gè)問題背后的真正問題是，那些創(chuàng)造有價(jià)值數(shù)據(jù)的人是否應(yīng)該得到某種形式的補(bǔ)償，因?yàn)樗麄兊臄?shù)據(jù)被利用了。我認(rèn)為答案是肯定的。但我還不知道確切的答案是什么。人們提出了很多不同的建議。我們也嘗試過一些不同的模式。但如果我像一個(gè)藝術(shù)家一樣，首先我希望能夠選擇不讓人用我的風(fēng)格生成藝術(shù)作品。其次，如果他們確實(shí)用我的風(fēng)格生成了藝術(shù)作品，我希望有與之相關(guān)的經(jīng)濟(jì)補(bǔ)償。

萊克斯·弗里德曼：這就像從CD過渡到Napster再到Spotify一樣。我們必須找到某種模式。

奧特曼：模式會(huì)改變，但人們必須得到報(bào)酬。

萊克斯·弗里德曼：如果我們看得更遠(yuǎn)一點(diǎn)，為了激勵(lì)人類繼續(xù)創(chuàng)造炫酷的東西，應(yīng)該有一些獎(jiǎng)勵(lì)機(jī)制。

奧特曼：在我擔(dān)心的所有事情中，人類會(huì)創(chuàng)造炫酷的東西，社會(huì)會(huì)找到某種方式來獎(jiǎng)勵(lì)這種創(chuàng)造性。這似乎是人類固有的特性。我們渴望創(chuàng)造，我們渴望證明自己的價(jià)值，我們想要以各種方式獲得認(rèn)同和地位。我認(rèn)為，這些都不會(huì)消失。

萊克斯·弗里德曼：但回報(bào)可能不是金錢上的，而可能是名望或是其他炫酷的方式。

奧特曼：也許在金融方面還有其他方式。我認(rèn)為，我們可能還沒有看到經(jīng)濟(jì)系統(tǒng)發(fā)展的最終模式。

萊克斯·弗里德曼：但藝術(shù)家和創(chuàng)作者們很擔(dān)心。當(dāng)他們看到Sora時(shí)，他們會(huì)驚呼，“我的天哪！”

奧特曼：確實(shí)。當(dāng)攝影技術(shù)出現(xiàn)時(shí)，藝術(shù)家們也非常擔(dān)心，但后來攝影成為了一種新的藝術(shù)形式，人們通過拍照賺了很多錢。我認(rèn)為類似的事情會(huì)不斷發(fā)生。人們會(huì)以新的方式使用新工具。

萊克斯·弗里德曼：如果我們只看YouTube或其他類似平臺(tái)，你認(rèn)為在未來五年內(nèi)，使用Sora等人工智能工具生成內(nèi)容的比例會(huì)有多少？

奧特曼：人們總是在談?wù)撊斯ぶ悄軐⒃谖迥陜?nèi)取代多少工作崗位。他們通常的出發(fā)點(diǎn)是，有多少現(xiàn)有工作會(huì)被人工智能完全取代？但我的思考方式不是人工智能將完成多少工作，而是在未來一個(gè)時(shí)間范圍內(nèi)，人工智能將能完成多少種任務(wù)。所以，如果你考慮經(jīng)濟(jì)中所有的五秒鐘、五分鐘、五小時(shí)甚至可能是五天的任務(wù)，有多少是人工智能可以完成的？我認(rèn)為這是一個(gè)更有趣、更有影響力、更重要的問題，比人工智能將取代多少工作更重要，因?yàn)槿斯ぶ悄苤皇且环N工具，它將在越來越多的任務(wù)中以越來越高的復(fù)雜度和越來越長的時(shí)間范圍內(nèi)工作，讓人們能夠在更高的抽象層次上進(jìn)行思考。因此，也許人們?cè)诠ぷ髦袝?huì)變得更加高效。在某個(gè)時(shí)候，這不僅僅是量的變化，它還意味著質(zhì)的變化——我們能在腦海中構(gòu)思何種問題。我認(rèn)為對(duì)于YouTube上的視頻來說也是如此。許多視頻，也許大多數(shù)視頻，都會(huì)在生產(chǎn)過程中使用人工智能工具，但它們?nèi)匀粫?huì)從根本上受到人的因素所影響，人們會(huì)完成其中的一部分工作。

萊克斯·弗里德曼：這真的非常有趣。我是說，我認(rèn)為這有點(diǎn)嚇人，但也很有趣。我傾向于認(rèn)為人類喜歡觀察其他人類，或者更接近于人類的生物……

奧特曼：人類確實(shí)非常關(guān)心其他同類。

萊克斯·弗里德曼：是的。如果有比人類更酷、更好的東西，人類可能會(huì)關(guān)注兩天，然后又會(huì)回到關(guān)心人類的事務(wù)上。

奧特曼：這似乎是人類根深蒂固的本性。

萊克斯·弗里德曼：就像國際象棋一樣，人們會(huì)說“哦，是的”，但現(xiàn)在大家還是繼續(xù)玩國際象棋。我們忽略了一個(gè)視而不見卻擺在眼前的事實(shí)，那就是相對(duì)于人工智能系統(tǒng)來說，人類在國際象棋方面的波安排下面真的很差。

奧特曼：我們?nèi)匀慌e行賽跑比賽，盡管汽車的速度要快得多。有很多這樣的例子。

萊克斯·弗里德曼：是的。也許它就像是Adobe套件里的某種工具，讓制作視頻變得更加容易，以及其他類似的事情。

奧特曼：聽著，我真的不喜歡面對(duì)鏡頭。如果我能找到一種不用面對(duì)鏡頭的方法，我會(huì)很高興的。不幸的是，那還需要一段時(shí)間。生成面部圖像的技術(shù)正在發(fā)展，但在視頻格式中生成特定人物的面孔與生成通用面孔相比要復(fù)雜得多。

GPT-4：我對(duì)它有點(diǎn)失望

萊克斯·弗里德曼：我想問你些關(guān)于GPT-4的問題。有很多問題要問。首先，它同樣令人驚嘆。回首過去，GPT-4在塑造 ChatGPT的過程中，可能被視為與GPT-3以及GPT-5同樣關(guān)鍵的歷史性時(shí)刻。

奧特曼：也許GPT-5會(huì)是關(guān)鍵時(shí)刻。我不知道。很難說未來會(huì)如何。

萊克斯·弗里德曼：我們永遠(yuǎn)不會(huì)知道。這就是未來的惱人之處，很難預(yù)測。但對(duì)我來說，回顧過去，GPT-4，ChatGPT真的令人印象深刻，在歷史上都有重要意義。所以請(qǐng)?jiān)试S我問，GPT-4和GPT-4 Turbo給你帶來的最令人印象深刻的能力是什么？

奧特曼：我覺得它有點(diǎn)令人失望。

萊克斯·弗里德曼：這種觀點(diǎn)很常見，畢竟人類總是習(xí)慣了一個(gè)很棒的東西后就會(huì)覺得它變得平常了。

奧特曼：不，我認(rèn)為這確實(shí)是一件令人驚奇的事情，但相對(duì)于我們需要達(dá)到的目標(biāo)和我相信我們將達(dá)到的目標(biāo)來說，在GPT-3的時(shí)代，人們會(huì)說，“哦，這太棒了。這簡直是技術(shù)的奇跡。”確實(shí)如此。但現(xiàn)在我們有了GPT-4，再回頭看GPT-3，你會(huì)覺得它簡直糟糕透頂。我預(yù)計(jì)GPT-5與GPT-4之間的差距將與GPT-4與GPT-3之間的差距一樣大，而且我認(rèn)為我們的職責(zé)就是提前幾年預(yù)見未來，并記住我們現(xiàn)在擁有的工具在未來回頭看時(shí)會(huì)顯得有些不盡如人意，這樣我們才能確保未來會(huì)變得更好。

萊克斯·弗里德曼：GPT-4在哪些方面最令人失望？

奧特曼：它最擅長做什么事情？

萊克斯·弗里德曼：對(duì)，它能做的最好的事情是什么？這些最好的事情存在哪些局限性，讓你覺得它令人失望，從而激發(fā)你對(duì)未來的靈感和希望？

奧特曼：我最近更多地將GPT-4用作一種頭腦風(fēng)暴伙伴。它有一些令人驚嘆的東西。當(dāng)人們談?wù)撍�的功能時(shí)，他們會(huì)說，“哦，它幫助我更有效地編寫代碼。它幫助我更快更好地寫作。它幫助我從這種語言翻譯到另一種語言。”所有這些事情都令人驚嘆，但GPT-4也能充當(dāng)創(chuàng)意頭腦風(fēng)暴伙伴，比如當(dāng)“我需要為這個(gè)東西想一個(gè)名字。我需要以不同的方式思考這個(gè)問題。我不知道該怎么辦”時(shí)，我認(rèn)為這讓我看到了自己期待已久的東西，希望將來能看到更多類似的場景。

你可以看到的另一個(gè)非常小的跡象是，當(dāng)我需要完成更長期的任務(wù)時(shí)，將某件事情分解成多個(gè)步驟，也許GPT-4能執(zhí)行其中的一些步驟，比如搜索互聯(lián)網(wǎng)，編寫代碼，無論什么，然后再將它們組合在一起。當(dāng)它能在這個(gè)過程中發(fā)揮作用時(shí)，雖然不是很常見，但卻非常神奇。

萊克斯·弗里德曼：與人類不斷互動(dòng)，對(duì)我來說非常有幫助。這是什么意思？

奧特曼：通過與人類的互動(dòng)，當(dāng)它可以獨(dú)立解決一個(gè)包含10個(gè)步驟的問題時(shí)，這樣的互動(dòng)就會(huì)變得更加密集。盡管有時(shí)它并不經(jīng)常奏效。

萊克斯·弗里德曼：增加多個(gè)抽象層次，還是說你只是指按順序進(jìn)行？

奧特曼：兩者都很重要，既要將問題分解，也要在不同的抽象層次上做一些事情來將它們重新組合在一起。你看，我不想低估GPT-4的能力，但我也不想過分夸大它。我認(rèn)為，我們正處于一個(gè)指數(shù)曲線上，不久之后，我們會(huì)像現(xiàn)在回望 GPT-3 一樣去回顧 GPT-4。

萊克斯·弗里德曼：也就是說，ChatGPT是一個(gè)轉(zhuǎn)折點(diǎn)，外界開始相信有一種上升趨勢，而不僅僅是在OpenAI內(nèi)部。

奧特曼：當(dāng)然。從這個(gè)意義上說，我確實(shí)認(rèn)為這將是一個(gè)轉(zhuǎn)折點(diǎn)，世界上很多人將從懷疑者轉(zhuǎn)變?yōu)樾磐健＿@更多是關(guān)于ChatGPT界面的。而說到界面和產(chǎn)品，我也指的是模型訓(xùn)練后的調(diào)整，以及我們?nèi)绾握{(diào)整它以幫助你，以及如何使用它，而不僅僅是模型本身。

萊克斯·弗里德曼：這兩者中哪一個(gè)更重要？是底層模型，還是RLHF（Reinforcement Learning from Human Feedback，人類反饋強(qiáng)化學(xué)習(xí)）或類似的東西，它們都在調(diào)優(yōu)過程中起著關(guān)鍵作用，使模型對(duì)人類更具吸引力，對(duì)人類更有效和有用。

奧特曼：我認(rèn)為它們都很重要，但RLHF，也就是訓(xùn)練后的那個(gè)步驟，以及我們?cè)诨�礎(chǔ)模型之上所做的那些額外工作，從計(jì)算的角度來看，盡管這是大量的工作，但這確實(shí)很重要，更不用說我們圍繞它構(gòu)建的產(chǎn)品了。從某種意義上說，我們必須同時(shí)做好這兩件事：我們必須發(fā)明底層技術(shù)，然后弄清楚如何將其變成人們會(huì)喜歡的產(chǎn)品，這不僅僅是關(guān)于實(shí)際產(chǎn)品的工作，還涉及到一個(gè)完全不同的階段——怎樣讓產(chǎn)品與用戶的需求保持一致，并真正發(fā)揮出它的用途。

萊克斯·弗里德曼：在眾多用戶同時(shí)使用這項(xiàng)技術(shù)的時(shí)候，你是如何讓它發(fā)揮規(guī)�；�效應(yīng)的。所有這些方面，都得仔細(xì)斟酌。

奧特曼：那是已知的難題。我們知道我們必須擴(kuò)大規(guī)模。我們必須去做兩件以前從未做過的事情，我認(rèn)為這兩件事都是相當(dāng)重要的成就，然后還有很多其他公司以前必須做的事情，比如擴(kuò)大規(guī)模。

萊克斯·弗里德曼：在GPT-4到GPT-4 Turbo之間，上下文窗口從8K tokens增加到128K tokens，這兩者之間又怎樣的區(qū)別？

奧特曼：多數(shù)情況下，大多數(shù)人并不總是需要128K tokens這么長的上下文。然而，如果我們展望未來，我們會(huì)發(fā)現(xiàn)將來會(huì)有數(shù)十億長度的上下文。你可以輸入你所有的信息和歷史記錄，模型會(huì)越來越了解你，那將是非常棒的。但目前來看，人們使用這些模型的方式并不是這樣。人們有時(shí)會(huì)發(fā)布論文或在代碼庫中大量增加代碼，但大多數(shù)時(shí)候，模型的使用并沒有用到長上下文。

萊克斯·弗里德曼：我喜歡這樣的感覺，就像你的“我有一個(gè)夢想”演講。將來，你會(huì)被依據(jù)你性格的全貌或是你一生的總體來評(píng)價(jià)。那很有趣。那么，你所希望的是更全面、更長的上下文。

奧特曼：我曾經(jīng)在網(wǎng)上看過一個(gè)片段，我可能記錯(cuò)了數(shù)字，但大致是比爾·蓋茨（Bill Gates）談?wù)撛缙谟?jì)算機(jī)的內(nèi)存容量大小，可能是64K，也可能是640K，大概是這樣的數(shù)字。那時(shí)候，大部分內(nèi)存都被用于屏幕緩沖區(qū)。他看起來似乎無法真正理解，為何將來世界上的計(jì)算機(jī)會(huì)需要幾個(gè)GB甚至TB的內(nèi)存。不過，你總是需要跟上技術(shù)發(fā)展的指數(shù)增長曲線，我們總會(huì)發(fā)現(xiàn)如何使用更先進(jìn)技術(shù)的方法。所以，我現(xiàn)在真的無法想象，有一天上下文鏈接會(huì)增長到數(shù)十億是什么感覺。它們可能不會(huì)真的達(dá)到那個(gè)數(shù)字，但在效果上可能會(huì)有那種感覺。不過我知道，一旦我們擁有這類技術(shù)，就真的不再想回到過去了。

萊克斯·弗里德曼：未來會(huì)有某種突破，讓人感覺到像是擁有無限上下文一樣。但即便是120K，老實(shí)說，我還沒有嘗試將它推到那種極限，可能需要輸入整本書或整篇論文。你見過的GPT-4的一些有趣用例是什么？

奧特曼：我發(fā)現(xiàn)最有趣的是，人們將它作為任何知識(shí)型工作任務(wù)的默認(rèn)起點(diǎn)，這主要是在年輕人中。它能夠做很多事情，而且做得相當(dāng)好。你可以使用GPT-4來幫助你編寫代碼，進(jìn)行搜索，或者編輯論文。對(duì)我來說，最有趣的是那些直接以此為他們工作流程開端的人。

萊克斯·弗里德曼：我也是。我用它來作為閱讀書籍的伙伴。它幫助我思考，尤其是我閱讀經(jīng)典名著的時(shí)候。我發(fā)現(xiàn)它在涵蓋廣泛主題的方面往往比維基百科還要好。它似乎更平衡，更細(xì)致入微。也許這是我的感覺，但它激發(fā)我思考得更深入，比維基百科的文章還要深入。我不太確定這是為什么。你剛才也提到了這種協(xié)作，我不確定魔力在哪里。但當(dāng)我開始使用GPT進(jìn)行知識(shí)型任務(wù)時(shí)，我通常會(huì)擔(dān)心之后需要進(jìn)行的事實(shí)核查，比如檢查它是否編造了虛假內(nèi)容。你是如何發(fā)現(xiàn)GPT能夠提出聽起來非常令人信服但實(shí)際上是虛假的內(nèi)容的？你如何確保它的真實(shí)性？

奧特曼：這顯然是我們非常關(guān)注的一個(gè)領(lǐng)域。我認(rèn)為隨著后續(xù)版本的推出，這方面會(huì)得到很大的改善，但我們必須繼續(xù)努力，今年我們不可能完全解決所有問題。

萊克斯·弗里德曼：令人擔(dān)憂的是，隨著它的不斷改進(jìn)，你可能會(huì)開始越來越少地進(jìn)行事實(shí)核查，對(duì)吧？奧特曼：我對(duì)此有個(gè)矛盾的看法。我認(rèn)為人們?cè)谑褂眉夹g(shù)時(shí)比我們常常認(rèn)為的要精明得多。人們似乎真的明白GPT這類模型有時(shí)會(huì)出現(xiàn)幻覺。如果在執(zhí)行關(guān)鍵任務(wù)，你必須對(duì)其回復(fù)進(jìn)行核實(shí)。

記憶與隱私

萊克斯·弗里德曼：這個(gè)問題涉及到人類文明的更高層面，我很期待對(duì)此進(jìn)行探討。這正是我們應(yīng)該更多去慶祝的領(lǐng)域。你們賦予了ChatGPT記憶能力，讓它可以回顧之前的對(duì)話，也可以關(guān)閉記憶功能。有時(shí)我真希望自己也能這樣做，根據(jù)需要隨時(shí)開啟或關(guān)閉記憶。雖然酒精有時(shí)能達(dá)到這種效果，但顯然不是最理想的方式。你在嘗試記住對(duì)話和不記住對(duì)話的過程中，有什么發(fā)現(xiàn)嗎？

奧特曼：我們?cè)谶@一領(lǐng)域的探索還處于非常初級(jí)的階段，但我認(rèn)為人們想要的，或者至少是我自己想要的是，一個(gè)能夠逐漸了解我并對(duì)我越來越有用的模型。這是我們的初步探索，我認(rèn)為還有很多其他工作要做，但這是我們希望努力的方向。你希望使用一個(gè)模型，或者在使用系統(tǒng)的過程中使用多個(gè)模型，隨著時(shí)間的推移，這些模型會(huì)變得越來越好。

萊克斯·弗里德曼：這個(gè)問題有多難解決？因?yàn)楝F(xiàn)在它更像是記住一些小的事實(shí)和偏好等等。那么關(guān)于記憶呢？你不希望GPT記住你在去年11月經(jīng)歷的所有事情和所有的戲劇性事件，然后你可以……

奧特曼：我不僅希望它記住那些事情，我還希望它能從中吸取教訓(xùn)，并在未來提醒我該怎么做或者要注意什么。我們?cè)谏�活中都�?huì)從經(jīng)歷中獲得不同程度的成長，我也希望我的人工智能助手能從這些經(jīng)歷中學(xué)習(xí)和成長。所以，如果我們回溯并想象一個(gè)擁有萬億上下文長度的模型可用，如果我能把自己一生中與任何人的所有對(duì)話都放進(jìn)去，把所有電子郵件的輸入輸出都放進(jìn)去，每次我問問題時(shí)都能在上下文中找到所有的輸入輸出，那將會(huì)非常了不起。

萊克斯·弗里德曼：是的，我認(rèn)為那將會(huì)非常棒。但有時(shí)人們聽到這些會(huì)擔(dān)心隱私問題。對(duì)于人工智能更有效地整合你的所有經(jīng)歷和數(shù)據(jù)，并給你建議這一方面，你怎么看？

奧特曼：我認(rèn)為正確的答案是給用戶選擇的權(quán)力。任何我不想讓我的人工智能助手記住的事情，我都希望能把它刪除。如果我不想記住任何事情，我也希望可以忘記。在關(guān)于我們自己的人工智能在隱私和實(shí)用性之間的權(quán)衡上，你和我可能有不同的看法，這完全可以理解。但我認(rèn)為答案就是讓用戶輕松做出選擇。

萊克斯·弗里德曼：但公司應(yīng)該對(duì)用戶選擇給予高度的透明度，因?yàn)檫^去有些公司在收集用戶數(shù)據(jù)時(shí)態(tài)度含糊其辭，好像他們可以默認(rèn)收集你的所有數(shù)據(jù)。他們會(huì)說：“嗯，我們收集你的所有數(shù)據(jù)是理所當(dāng)然的。我們用這些數(shù)據(jù)來做廣告等，都是出于好意。” 但對(duì)于其中的細(xì)節(jié)卻缺乏透明度。

奧特曼：你說得完全對(duì)。就像之前提到的我在回避去年11月份的事情。我認(rèn)為那是一件非常痛苦的事情，它讓我長時(shí)間陷入恍惚。毫無疑問，那段時(shí)間最艱難的工作就是堅(jiān)持工作，因?yàn)槲冶仨氃囍�回到這里，在震驚和痛苦中把碎片拼湊起來，而沒有人真正關(guān)心這一點(diǎn)。我的團(tuán)隊(duì)確實(shí)給了我很大的寬容，我并沒有像往常一樣全力工作。但有一段時(shí)間，我不得不同時(shí)做這兩件事，這真的很難。但有一天早上我醒來，想到：“這是一件發(fā)生在我身上的可怕事情。我覺得我可以永遠(yuǎn)像個(gè)受害者一樣，告訴自己這是我一生中觸及的最重要的工作，我必須回過神來繼續(xù)它。”沒錯(cuò)，這并不意味著我已經(jīng)把它壓抑下去了，因?yàn)橛袝r(shí)我半夜醒來還會(huì)想到這件事。但我確實(shí)覺得自己有義務(wù)繼續(xù)向前走。

萊克斯·弗里德曼：關(guān)于GPT能夠做什么和不能做什么，你的直覺非常有趣。GPT在生成每個(gè)token時(shí)大約分配相同數(shù)量的計(jì)算資源。那么，在這種方法中，是否有空間進(jìn)行更慢、更連貫的思考呢？

奧特曼：我認(rèn)為將有一種新的思考范式。

萊克斯·弗里德曼：這種思考方式在架構(gòu)上會(huì)與我們現(xiàn)在看到的LLM（大語言模型）相似嗎？它是在LLM的基礎(chǔ)上增加的一層嗎？

奧特曼：我可以想象出許多實(shí)現(xiàn)這種想法的方法。但我認(rèn)為這不如你之前的問題重要，那就是我們是否需要一種更慢的思考方式，其中答案不必立即給出……我想在精神層面上，你可能會(huì)希望人工智能能夠更深入地思考一個(gè)更難的問題，并更快地回答一個(gè)更簡單的問題。我認(rèn)為這才是重要的。

萊克斯·弗里德曼：這讓人想到人類的思考方式，我們有能力進(jìn)行深入思考，那么人工智能也應(yīng)該能夠做到嗎？這是錯(cuò)誤的直覺嗎？

奧特曼：我認(rèn)為這是一種合理的直覺。

萊克斯·弗里德曼：有趣。那么，當(dāng)GPT發(fā)展到GPT-7時(shí)，它不可能立即就能給出“費(fèi)馬定理的證明”？

奧特曼：在我看來，你希望能夠?qū)Ω�難的問題分配更多的計(jì)算資源。如果你問一個(gè)這樣的系統(tǒng)，“證明費(fèi)馬定理”，與問“今天是幾號(hào)？”相比，除非它已經(jīng)知道并記住了證明的答案，否則如果它需要自己去解決這個(gè)問題，那么這將需要更多的計(jì)算資源。

萊克斯·弗里德曼：但它能否看起來像一個(gè)大語言模型在與自己對(duì)話呢？

奧特曼：可能。我是說，你可以想象有很多可行的方法。至于正確或最佳的方式是什么，我們目前還不知道。

神秘Q*：仍沒有飛躍的跡象

萊克斯·弗里德曼：這讓我想到了神秘的Q*項(xiàng)目。這個(gè)項(xiàng)目究竟是什么？

奧特曼：OpenAI在保密方面做得并不好。如果我們能在這方面做得好一些，那將是一件好事。我們一直受到很多泄密問題的困擾，如果能擁有某種保密能力，那將是很不錯(cuò)的。

萊克斯·弗里德曼：你能談?wù)凲*是什么嗎？

奧特曼：我們現(xiàn)在還不準(zhǔn)備談?wù)撨@個(gè)話題。

萊克斯·弗里德曼：但這樣的回答意味著有些東西可以談?wù)�，這真的很神秘。

奧特曼：我們的研究涉及各種領(lǐng)域。我們之前已經(jīng)說過，我們認(rèn)為在這些系統(tǒng)中實(shí)現(xiàn)更好的推理是一個(gè)重要的研究方向。我們還沒有找到突破的方法，但我們對(duì)此非常感興趣。

萊克斯·弗里德曼：Q*或其他方面，會(huì)不會(huì)出現(xiàn)類似于ChatGPT的飛躍時(shí)刻？

奧特曼：這個(gè)問題問得好。我怎么看待這個(gè)問題？這很有趣。對(duì)我來說，這看起來都是連續(xù)的發(fā)展過程。

萊克斯·弗里德曼：沒錯(cuò)。你提到的主題似乎是，我們基本上是在逐漸攀登一個(gè)指數(shù)級(jí)的曲線。但從外部觀察者的角度來看，我看著就覺得有飛躍的時(shí)刻。但對(duì)你來說，并沒有這樣的感覺嗎？

奧特曼：我一直在想，我們采用這種部署方式（我們稱之為迭代部署），而不是秘密開發(fā)直到GPT-5，我們決定公開討論GPT-1、GPT-2、GPT-3和GPT-4。這樣做的原因部分在于，我認(rèn)為人工智能和意外之間并不相容。而且，無論是世界、人類、機(jī)構(gòu)，或者你愿意怎么稱呼它們，它們都需要時(shí)間去適應(yīng)和反思這些問題。我認(rèn)為OpenAI做得最好的事情之一就是采取這種策略，讓世界關(guān)注我們的進(jìn)展，認(rèn)真對(duì)待AGI，思考在我們被迫匆忙做出決定之前，我們想要構(gòu)建什么樣的系統(tǒng)、結(jié)構(gòu)以及治理方式。

我認(rèn)為這真的很好。但像你和其他人仍然覺得有飛躍的感覺，讓我想到我們可能應(yīng)該更多以漸進(jìn)的方式發(fā)布我們的產(chǎn)品。我不知道這意味著什么，我還沒有準(zhǔn)備好答案，但我們的目標(biāo)絕不是讓世界感到震驚。相反，我們想要的是平穩(wěn)過渡。這就是我們努力的方向，也是我們的既定策略，但我感覺我們似乎沒有實(shí)現(xiàn)目標(biāo)。也許我們應(yīng)該考慮以不同的方式發(fā)布GPT-5或類似產(chǎn)品。

萊克斯·弗里德曼：是的，比如4.71，4.72這樣的版本？但人們通常喜歡慶祝特別的日子，比如慶祝生日。我不知道你是否了解人類，但他們確實(shí)喜歡這些里程碑式的事情。

奧特曼：我確實(shí)了解一些人類，人們確實(shí)喜歡里程碑。我完全理解這一點(diǎn)。我想我們自己也喜歡里程碑，宣布在這個(gè)領(lǐng)域取得勝利并開始下一個(gè)項(xiàng)目確實(shí)很有趣。但的確，我覺得我們?cè)谀承┓矫婵赡芾斫庥姓`。

GPT-5發(fā)布時(shí)間待定

萊克斯·弗里德曼：GPT-5什么時(shí)候發(fā)布？

奧特曼：我不知道，這是實(shí)話。但我們今年會(huì)發(fā)布一個(gè)令人驚嘆的新模型，只是我不知道我們會(huì)叫它什么。

萊克斯·弗里德曼：這就引出了一個(gè)問題，你們應(yīng)該如何發(fā)布這個(gè)新模型呢？

奧特曼：在接下來的幾個(gè)月里，我們會(huì)發(fā)布許多不同的東西。我覺得這會(huì)很酷。在我們談?wù)撘粋�(gè)類似GPT-5的模型之前，無論是否這樣命名，或者比你期望的GPT-5好一點(diǎn)或差一點(diǎn)，我認(rèn)為我們還有很多其他重要的事情要先發(fā)布。

萊克斯·弗里德曼：我不知道應(yīng)該對(duì)GPT-5有什么樣的期待。你的說法讓我既感到緊張又興奮。對(duì)于最終無論它會(huì)被命名為什么，我們就暫時(shí)稱它為GPT-5吧，它需要克服的一些最大挑戰(zhàn)和瓶頸是什么？只是好奇問一下：是關(guān)于計(jì)算方面的問題嗎？還是技術(shù)方面的問題？

奧特曼：這些挑戰(zhàn)總是多方面的。你知道，最大的突破點(diǎn)是什么？是一臺(tái)更大的計(jì)算機(jī)嗎？是一個(gè)新的秘密嗎？還是其他什么東西？這些都是需要綜合考慮的。OpenAI真正做得好的事情是，這其實(shí)是伊利亞的一個(gè)原創(chuàng)觀點(diǎn)，我可能會(huì)說得不太準(zhǔn)確，但大致意思是，“我們將200個(gè)中等規(guī)模的東西相乘，形成一個(gè)巨大的東西。”

萊克斯·弗里德曼：所以這里有一種持續(xù)的分布式創(chuàng)新過程？

奧特曼：是的。尤其是在技術(shù)層面上。

萊克斯·弗里德曼：在涉及到各個(gè)層面的細(xì)節(jié)時(shí)，你這是如何與不同的、分散的團(tuán)隊(duì)合作的？這些中等規(guī)模的東西是如何成為一個(gè)完整的巨型變形金剛的呢？

奧特曼：有些人需要考慮如何將整個(gè)事情整合在一起，但也有很多人會(huì)努力將大局記在腦子里。從總體上來說，你當(dāng)然不可能知道每個(gè)部分的具體工作原理，但我通常認(rèn)為，有時(shí)把視野放大，看看全局是很有用的。我認(rèn)為這不僅適用于解決技術(shù)問題，對(duì)商業(yè)創(chuàng)新同樣有效。但事情會(huì)以令人意想不到的方式結(jié)合在一起，即使大部分時(shí)間你都在某個(gè)領(lǐng)域的細(xì)節(jié)中操作，對(duì)全局的理解也會(huì)帶來令人驚訝的見解。事實(shí)上，我有一個(gè)秘訣，那就是對(duì)科技行業(yè)所有或大多數(shù)前沿領(lǐng)域都有很好的了解。有時(shí)，我可以看到這些聯(lián)系或新的可能性，如果我只深入探索一個(gè)領(lǐng)域，我就不會(huì)有這個(gè)想法，因?yàn)槲胰鄙偃�局�(jǐn)?shù)據(jù)。但我現(xiàn)在真的沒有那樣的視角了，我現(xiàn)在深入某一個(gè)特定領(lǐng)域。但我知道，擁有全局視角是一件有價(jià)值的事情。

7萬億美元大項(xiàng)目

萊克斯·弗里德曼：談到從宏觀角度看問題，讓我們?cè)贁U(kuò)大些范圍，比如你曾發(fā)推文說需要7萬億美元。

奧特曼：我沒有發(fā)過那樣的推文，也從來沒有說過“我們正在籌集7萬億美元”之類的話。

萊克斯·弗里德曼：哦，那是別人說的？但你說過，“管他的，或許是 8 萬億”，是這樣嗎？

奧特曼：不，我沒有說過那個(gè)。我確實(shí)認(rèn)為算力將稱為未來的貨幣。我認(rèn)為它可能會(huì)成為世界上最珍貴的商品，而且我認(rèn)為我們應(yīng)該大力投資以制造更多的算力。我認(rèn)為算力市場將是一個(gè)不同尋常的市場。人們會(huì)想到手機(jī)芯片市場或其他類似的市場。你可以想象下，全世界有80億人，也許70億人擁有手機(jī)，也許是60億，我們就這么假設(shè)吧。他們每兩年升級(jí)一次，所以每年的市場需求就是30億部智能手機(jī)的系統(tǒng)級(jí)芯片。但如果你制造了300億套，你也不可能賣出10倍的手機(jī)，因?yàn)榇蠖鄶?shù)人只有一部手機(jī)。

但算力是不同的。智能將更像能源或其他類似的東西，我認(rèn)為唯一有意義討論的是，在價(jià)格X下，世界將用掉多少算力。而在價(jià)格Y下，世界將消耗多少算力。因?yàn)槿绻�算力真的很便宜，我�?huì)讓它整天讀取我的電子郵件，給我提建議，關(guān)于我可能需要思考或處理的事情，甚至是嘗試治療癌癥。而如果計(jì)算資源真的很貴，也許我只會(huì)在嘗試治療癌癥時(shí)才使用它。所以我認(rèn)為世界將需要大量的算力。而在這個(gè)過程中，有許多難點(diǎn)。能源供應(yīng)是最棘手的部分，建造數(shù)據(jù)中心和供應(yīng)鏈也同樣充滿挑戰(zhàn)。當(dāng)然，制造足夠的芯片也很難。但看起來，這正是事情發(fā)展的方向。我們將需要大量的算力，目前來說，這種規(guī)模是難以想象的。

萊克斯·弗里德曼：你如何解決能源問題？核能？核聚變？你認(rèn)為核聚變是50年后的事情，還是10年后就能實(shí)現(xiàn)？

奧特曼：我相信核能的潛力。但我認(rèn)為，何時(shí)實(shí)現(xiàn)核聚變依然很難預(yù)測。

萊克斯·弗里德曼：那么，誰會(huì)解決這個(gè)問題呢？

奧特曼：我認(rèn)為Helion公司做得最好，我對(duì)當(dāng)前的核聚變競賽感到挺興奮。我認(rèn)為核裂變也非常驚人，我希望全世界都能重新接受它。核裂變的歷史發(fā)展讓我感到非常遺憾，我希望我們能以有意義的方式重新利用它。

萊克斯·弗里德曼：所以對(duì)你來說，核裂變是個(gè)解決方案嗎？就像我們目前所擁有的核反應(yīng)堆一樣？而且很多人因?yàn)榍袪栔Z貝利等核泄漏事故而感到害怕，對(duì)吧？

奧特曼：我認(rèn)為我們應(yīng)該制造新的核反應(yīng)堆。我認(rèn)為這個(gè)行業(yè)停滯不前真是太可惜了。

萊克斯·弗里德曼：你認(rèn)為“群體性歇斯底里”能解釋這種停滯現(xiàn)象嗎？我不知道你是否了解人類，但這就是其中一個(gè)危險(xiǎn)。核裂變面臨的安全威脅之一就是人類對(duì)此的深度恐懼。這是我們必須將其納入考慮的因素之一，所以我們必須贏得人們的信任，并展示它的安全性。

奧特曼：我對(duì)人工智能也有這樣的擔(dān)憂。我認(rèn)為人工智能的某些事情上會(huì)犯下大錯(cuò)。雖然我不確定自己最終被人工智能殺死的概率有多大，但肯定不是零。

萊克斯·弗里德曼：你如何降低這種戲劇性風(fēng)險(xiǎn)的影響？我已經(jīng)開始聽到一些傳聞了，因?yàn)槲液透鱾�(gè)政治派別的人都有交談，聽到一些傳聞?wù)f人工智能將會(huì)被政治化。我真的非常擔(dān)心這一點(diǎn)，因?yàn)槿绻�這樣，可能就會(huì)出現(xiàn)右翼反對(duì)人工智能，而左翼支持人工智能的情況。然后這種戲劇性效果就可以被充分利用。我們?cè)撊绾螌?duì)抗這種趨勢呢？

奧特曼：我覺得人工智能確實(shí)會(huì)陷入左右派系之爭。我不知道這具體會(huì)是什么樣子，但不幸的是，任何具有影響力的事物似乎都會(huì)如此。我所說的戲劇性風(fēng)險(xiǎn)更多是指，我相信人工智能將會(huì)帶來的好處遠(yuǎn)遠(yuǎn)多于壞處，但它確實(shí)會(huì)有一些壞處。例如，死于空氣污染的人數(shù)遠(yuǎn)多于死于核泄露事故的人數(shù)，但大多數(shù)人更擔(dān)心住在核反應(yīng)堆附近而不是煤炭工廠附近。然而，我們?nèi)祟惖奶煨跃褪牵�盡管我們需要面對(duì)許多不同種類的風(fēng)險(xiǎn)，但那些能夠構(gòu)成電影高潮情節(jié)的風(fēng)險(xiǎn)在我們心中的分量卻遠(yuǎn)大于那些長期、緩慢累積但同樣嚴(yán)重的風(fēng)險(xiǎn)。

萊克斯·弗里德曼：這就是為什么真相很重要的原因。我希望人工智能能幫助我們看清事物的本質(zhì)，保持平衡，弄清楚世界上事物的實(shí)際風(fēng)險(xiǎn)和真正危險(xiǎn)。在人工智能領(lǐng)域的競爭中，與谷歌、Meta、xAI等公司競爭，各有什么優(yōu)劣之處呢？

奧特曼：對(duì)于這個(gè)問題，我想我有一個(gè)相對(duì)直接的答案，雖然以后可能會(huì)想到更多的細(xì)節(jié)，但好處似乎很明顯，那就是我們能得到更好、更快、更便宜的產(chǎn)品和創(chuàng)新，這些都是競爭帶來的好處。而缺點(diǎn)在于，如果我們不小心，可能會(huì)導(dǎo)致一場讓令人擔(dān)憂的軍備競賽。

萊克斯·弗里德曼：你是否感覺到這種軍備競賽帶來的壓力，就像在某些方面產(chǎn)生的負(fù)面影響一樣？

奧特曼：當(dāng)然，在某些方面肯定是有的。我們花了很多時(shí)間討論需要優(yōu)先考慮安全性。我一直以來都在說，你可以把AGI的開始時(shí)間想象成一個(gè)四象限圖，包括慢啟動(dòng)和快啟動(dòng)，以及長期和短期的時(shí)間線。我認(rèn)為短期、慢啟動(dòng)是最安全的象限，也是我最希望我們所處的象限。但我確實(shí)想確保我們實(shí)現(xiàn)的是慢啟動(dòng)。

萊克斯·弗里德曼：我對(duì)與埃隆的沖突感到有些困擾的部分原因是，它導(dǎo)致了安全方面的孤立而非合作。這往往導(dǎo)致事情變得封閉而不是開放，也許在模型上開源會(huì)是個(gè)解決辦法。

奧特曼：埃隆至少說過他非常關(guān)心人工智能的安全性，并且對(duì)此感到非常擔(dān)憂。我猜他應(yīng)該不會(huì)在不安全的情況下進(jìn)行競賽。

萊克斯·弗里德曼：埃隆以關(guān)心人類的命運(yùn)著稱，而人類是從合作中受益是，所以激勵(lì)和動(dòng)機(jī)之間總是存在緊張關(guān)系。最后，我確實(shí)希望人類能夠勝出。

奧特曼：我在想，有人前幾天提醒我，在埃隆超越杰夫·貝索斯（Jeff Bezos）成為世界首富的那一天，他發(fā)推文向貝索斯展示了一枚銀牌。我真心希望，以后能少看到這樣的鬧劇。埃隆的某些特質(zhì)的確很了不起，我非常尊重他。我認(rèn)為我們需要他，我們都應(yīng)該支持他，并需要他在接下來的階段中扮演好領(lǐng)導(dǎo)者的角色。

谷歌及其Gemini

萊克斯·弗里德曼：谷歌憑借搜索功能在過去20年里一直占據(jù)主導(dǎo)地位�？梢哉f，從全球范圍內(nèi)獲取信息的方式以及人們?nèi)绾位��?dòng)等方面來看，谷歌都發(fā)揮了關(guān)鍵作用。但令谷歌乃至整個(gè)行業(yè)都感到緊張的是，人們將如何獲取信息？就像你說的，人們將GPT作為出發(fā)點(diǎn)。那么OpenAI是否會(huì)真正接手谷歌20年前開始的事情，即我們?nèi)绾潍@取信息？

奧特曼：我覺得這很無聊。我的意思是，如果問題是我們能否構(gòu)建一個(gè)比谷歌更好的搜索引擎，那么當(dāng)然可以，人們應(yīng)該使用更好的產(chǎn)品，但我認(rèn)為這低估了這項(xiàng)技術(shù)的潛力。谷歌給你展示10個(gè)藍(lán)色鏈接，當(dāng)然先是13個(gè)廣告然后才是10個(gè)藍(lán)色鏈接，這只是獲取信息的一種方式。但令我興奮的事情不是我們可以去構(gòu)建一個(gè)更好的谷歌搜索復(fù)制品，而是也許有一種更好的方式來幫助人們查找、采取行動(dòng)并整合信息。實(shí)際上，我認(rèn)為對(duì)于某些用例來說，ChatGPT就是這樣，希望我們能夠?qū)⑵鋺?yīng)用到更多的場景中去。

但我認(rèn)為，僅僅提出“我們?cè)鯓硬拍鼙裙雀韪�好地為你提供�?0個(gè)排名的網(wǎng)頁？”并不那么有趣。也許真正有趣的是說，“我們?nèi)绾螏椭�你獲得你需要的答案或信息？我們?nèi)绾卧谀承┣闆r下幫助你創(chuàng)造它，在其他情況下整合它，或在其他情況下為你指明方向？”很多人只是嘗試制造一個(gè)比谷歌更好的搜索引擎，但這是一個(gè)困難的技術(shù)問題，也是一個(gè)困難的品牌核生態(tài)系統(tǒng)問題。我認(rèn)為世界不需要谷歌的另一個(gè)復(fù)制品。

萊克斯·弗里德曼：將聊天客戶端，如ChatGPT，與搜索引擎集成——

奧特曼：那會(huì)更酷。

萊克斯·弗里德曼：這的確很酷，但也很棘手。如果你只是簡單地這樣做，它會(huì)顯得很別扭，因?yàn)槿绻�你只是把ChatGPT硬塞進(jìn)去，可能會(huì)很奇怪。

奧特曼：你可能已經(jīng)猜到了，我們對(duì)如何做得更好很感興趣。那將是一個(gè)很酷的例子。大語言模型與搜索的結(jié)合，我認(rèn)為還沒有人破解這個(gè)密碼。我很想去做這件事。我認(rèn)為那會(huì)很酷。

萊克斯·弗里德曼：那么在廣告方面呢？你們有沒有考慮過ChatGPT的貨幣化。

奧特曼：從美學(xué)角度上說，我有點(diǎn)討厭廣告。我理解互聯(lián)網(wǎng)之初為了發(fā)展不得不依賴廣告，但這不過是一個(gè)暫時(shí)的行業(yè)現(xiàn)象�，F(xiàn)在世界已經(jīng)變得更富裕。我喜歡看到人們?yōu)镃hatGPT付費(fèi)，并知道他們得到的答案不受廣告商的影響。我確信有適合大語言模型的廣告模式，也確信有一種以不偏不倚的方式參與交易流的方法，但也很容易想到未來的反烏托邦愿景：你向ChatGPT詢問某事，它會(huì)說：“哦，你應(yīng)該考慮購買這個(gè)產(chǎn)品”，或者“你應(yīng)該考慮來這里度假”，或者其他什么。

我不知道到底會(huì)是什么樣，我們有一個(gè)非常簡單的商業(yè)模式，我挺喜歡的，我知道自己不是被買賣的產(chǎn)品。我知道自己是付費(fèi)用戶，這就是商業(yè)模式的工作原理。當(dāng)我使用Twitter、Facebook、谷歌或其他任何廣告支持的產(chǎn)品時(shí)，我不喜歡這樣。我覺得在人工智能的世界里，情況只會(huì)變得更糟，而不會(huì)變得更好。

萊克斯·弗里德曼：是的，我可以想象人工智能會(huì)更精準(zhǔn)地展示你真正需要的商品和服務(wù)的廣告，而不是在某個(gè)反烏托邦的未來。但是，這樣的系統(tǒng)是否總是會(huì)導(dǎo)致廣告驅(qū)動(dòng)所展示的內(nèi)容呢？我認(rèn)為維基百科不做廣告是一個(gè)非常大膽的決定，但這也使商業(yè)模式變得非常具有挑戰(zhàn)性。所以你是說OpenAI目前的商業(yè)模式從商業(yè)角度來看是可持續(xù)的嗎？

奧特曼：我們必須弄清楚如何實(shí)現(xiàn)增長，但看起來我們會(huì)找到辦法的。如果問題是我是否認(rèn)為我們可以擁有一個(gè)偉大的商業(yè)模式，能夠支付我們的算力需求而不依賴廣告，那么我認(rèn)為答案是肯定的。

萊克斯·弗里德曼：我想問你關(guān)于安全性和偏見的問題，以及短期和長期的安全性。谷歌最近發(fā)布了Gemini 1.5，圍繞它引發(fā)了很多爭議，比如其生成的歷史人物多是有色人種。公平地說，它可能偏向了過度 "覺醒" 的一面。所以這是人們擔(dān)心的問題：如果公司內(nèi)有人在修改模型的安全性或由其造成的傷害，那么它可能會(huì)引入很多符合公司內(nèi)部意識(shí)形態(tài)傾向的偏見。你如何處理這個(gè)問題？

奧特曼：我們非常努力地避免做這樣的事情。我們自己犯過錯(cuò)誤，將來也會(huì)犯其他錯(cuò)誤。我假設(shè)谷歌會(huì)從這次錯(cuò)誤中吸取教訓(xùn)，但他們還是會(huì)犯其他錯(cuò)誤。這些問題并不容易解決。我們一直在思考的一個(gè)問題是，我認(rèn)為這里有人提出了一個(gè)很好的想法，那就是可以把模型應(yīng)有的行為標(biāo)準(zhǔn)寫出來并公開發(fā)布，接受大家的反饋，并說：“這是這個(gè)模型應(yīng)有的行為方式”，并解釋邊緣情況。然后，當(dāng)模型的行為不符合你的期望時(shí)，至少可以清楚地知道這是公司應(yīng)該修復(fù)的錯(cuò)誤，還是按照預(yù)期行為進(jìn)行的，你應(yīng)該討論政策。而現(xiàn)在，它有時(shí)候它會(huì)處于模棱兩可的狀態(tài)。而且還有很多其他微妙的場景，每個(gè)場景你都可以有自己的判斷。我對(duì)模型可能表現(xiàn)出的很多方式都持開放態(tài)度。但我覺得，你應(yīng)該明確指出：“這是原則，模型在這種情況下就應(yīng)該這么做。”

萊克斯·弗里德曼：你是否覺得在公司內(nèi)部有這方面的壓力，即政治上有偏左或偏右的傾向，這會(huì)影響產(chǎn)品或團(tuán)隊(duì)？

奧特曼：我覺得很幸運(yùn)，OpenAI沒有像很多公司那樣面臨我所聽說過的挑戰(zhàn)。我認(rèn)為部分原因是每家公司都有一些意識(shí)形態(tài)的東西。我們有一個(gè)關(guān)于AGI的信仰，這排除了其他一些東西。與我所聽到的許多其他公司相比，我們?cè)谖幕癄幾h中的卷入程度要小得多。盡管這種政治偏見以各種微妙的方式滲透進(jìn)來了，但并不明顯。我認(rèn)為我們肯定有過一些沖突，就像任何公司一樣，但我不認(rèn)為我們?cè)谶@個(gè)問題上經(jīng)歷過像在其他公司聽說的那種情況。

萊克斯·弗里德曼：隨著人工智能變得越來越強(qiáng)大，這將是人類真正需要思考的問題。因此，OpenAI的大多數(shù)員工都會(huì)思考“安全性”，或者至少會(huì)在某種程度上思考“安全”這個(gè)詞。

奧特曼：廣義上來說是這樣。沒錯(cuò)。

萊克斯·弗里德曼：我想知道，這個(gè)問題有怎樣全面而廣泛的定義？可能會(huì)造成的不同危害有哪些？這是技術(shù)層面的問題還是幾乎涉及安全威脅？

奧特曼：這可能涉及所有這些問題。是的，我想說會(huì)有人，國家行為者試圖竊取這個(gè)模型。這將包括所有的技術(shù)對(duì)齊工作。這將涉及社會(huì)影響、經(jīng)濟(jì)影響。這不僅僅是我們有一個(gè)團(tuán)隊(duì)在思考如何對(duì)齊模型。要實(shí)現(xiàn)好的結(jié)果，真的需要整個(gè)公司的努力。

跨越到GPT-5：變得更聰明

萊克斯·弗里德曼：盡管你現(xiàn)在還不能透露太多細(xì)節(jié)，但我還是想繼續(xù)討論這個(gè)話題。你對(duì)GPT-4到GPT-5的飛躍中哪些方面感到興奮？

奧特曼：令我興奮的是，它會(huì)變得更聰明。我知道這樣的回答聽起來可能不夠嚴(yán)肅，但我認(rèn)為真正激動(dòng)人心的事情是，它并不是在某個(gè)方面變得更好，而在各個(gè)方面變得更好。我認(rèn)為這非�？�。

萊克斯·弗里德曼：是的，確實(shí)有那么一刻，就像魔法一樣。我指的是，當(dāng)你遇到某些人，與他們相處，與他們交談時(shí)，你可能說不上來是什么原因，但他們就是能夠理解你。這并不是真正的智慧，而是某種其他的東西。我想這大概就是我描述GPT進(jìn)步的方式。這并不是說，你可以指出“看，你沒有理解這個(gè)或那個(gè)”，而是它在多大程度上與你產(chǎn)生一種智力上的聯(lián)系。你感覺到它理解了你那些糟糕的、零散的提示背后的深層問題。是的，我也對(duì)此感到興奮。畢竟，我們所有人都喜歡被聆聽，被理解。

奧特曼：那是肯定的。

萊克斯·弗里德曼：那是一種奇怪的感覺。即使是在編程時(shí)，當(dāng)你編寫程序并說出某些內(nèi)容，或者GPT可能完成的某些內(nèi)容時(shí)，當(dāng)它理解你的想法時(shí)，那種感覺真是太棒了。我期待它在這方面能變得更好。展望未來，在編程方面，你認(rèn)為5年、10年后人類會(huì)進(jìn)行多少編程工作？

奧特曼：我認(rèn)為還會(huì)有很多，但我認(rèn)為它的形式會(huì)非常不同。也許有些人會(huì)完全用自然語言編程。

萊克斯·弗里德曼：完全用自然語言？

奧特曼：我是說，沒有人通過編寫代碼來編程了。有些人還會(huì)這么做，但現(xiàn)在已經(jīng)沒有人再使用打孔卡來編程了。

萊克斯·弗里德曼：編程確實(shí)挺難的。那么，要怎樣才能邁過最后那 1% 的鴻溝呢？這到底有多困難��？

奧特曼：我認(rèn)為在大多數(shù)情況下，最擅長這項(xiàng)技能的人會(huì)使用多種工具。他們會(huì)用自然語言做一些工作，當(dāng)需要利用C語言編寫代碼時(shí)，他們也會(huì)這么做。

萊克斯·弗里德曼：我們會(huì)在某個(gè)時(shí)候看到OpenAI開發(fā)的人形機(jī)器人或人形機(jī)器人大腦嗎？

奧特曼：在某個(gè)時(shí)候會(huì)的。

萊克斯·弗里德曼：你認(rèn)為實(shí)體化的人工智能對(duì)你有多重要？

奧特曼：我覺得如果我們有了通用人工智能，但唯一能在現(xiàn)實(shí)世界中完成事情的方式是讓人類去完成，那將是很令人沮喪的。因此，我真的希望在這個(gè)過渡階段，我們也能得到人形機(jī)器人或某種能在現(xiàn)實(shí)世界操作的機(jī)器人。

萊克斯·弗里德曼：OpenAI在機(jī)器人方面有些研究和積累，但在倫理方面并沒有取得什么進(jìn)展。

奧特曼：我們是一家規(guī)模不大的公司。我們必須真正集中精力。此外，當(dāng)時(shí)研發(fā)機(jī)器人之所以艱難，并非因?yàn)橛姓�確的理由。不過，我們將在某個(gè)時(shí)候以某種方式重新投入機(jī)器人研究。

萊克斯·弗里德曼：這聽起來令人覺得有點(diǎn)兒不安，因?yàn)闀?huì)讓人想起《終結(jié)者》一樣的機(jī)器人。

奧特曼：我們會(huì)重新投入機(jī)器人研發(fā)工作。當(dāng)然，我們不會(huì)把自己變成機(jī)器人。

AGI

萊克斯·弗里德曼：你認(rèn)為我們何時(shí)會(huì)有通用人工智能（AGI）？

奧特曼：我以前很喜歡猜測這個(gè)問題。但我后來意識(shí)到，這個(gè)問題問得不夠準(zhǔn)確，因?yàn)槿藗儗?duì)AGI的定義差異極大。因此，我認(rèn)為談?wù)撐覀儗⒑螘r(shí)建立能夠執(zhí)行X、Y或Z能力的系統(tǒng)更有意義，而不是模糊地談?wù)摵螘r(shí)會(huì)跨越某個(gè)里程碑。AGI也不是終點(diǎn)，它更接近一個(gè)起點(diǎn)，但它其實(shí)更多是一個(gè)里程碑。為了不逃避這個(gè)問題，我預(yù)計(jì)在2030年之前，或者可能比那更早，我們將擁有非常強(qiáng)大的系統(tǒng)，我們看著它們會(huì)說：“哇，那真是太了不起了。”前提是如果我們現(xiàn)在能看到的話。也許我們到了那個(gè)時(shí)候已經(jīng)適應(yīng)了。

萊克斯·弗里德曼：但如果你拿出ChatGPT，哪怕是3.5版本，你把它展示給艾倫·圖靈（Alan Turing），或者是90年代的人看，他們可能會(huì)說：“這絕對(duì)是通用人工智能了。”當(dāng)然，這不是絕對(duì)，但有很多專家會(huì)說：“這就是通用人工智能。”

奧特曼：是的，但我認(rèn)為3.5并沒有改變世界。它可能改變了世界對(duì)未來的期望，這實(shí)際上非常重要。它也確實(shí)讓更多的人認(rèn)真對(duì)待這個(gè)領(lǐng)域，并讓我們走上了新的軌跡。這同樣也非常重要。所以，我不想貶低它的價(jià)值。我覺得完成這一成就后，我就可以退休了，并對(duì)我的職業(yè)生涯感到相當(dāng)滿意。但是將它視作一個(gè)具體物件來看，我不認(rèn)為我們會(huì)回頭看那個(gè)時(shí)刻，并說，“那是一個(gè)真正改變世界本身的分水嶺。”

萊克斯·弗里德曼：對(duì)你來說，你是在尋找世界上某種真正重大的轉(zhuǎn)變嗎？

奧特曼：對(duì)我來說，這正是AGI所暗示的一部分。

萊克斯·弗里德曼：奇點(diǎn)級(jí)別的轉(zhuǎn)變嗎？

奧特曼：不，絕對(duì)不是。

萊克斯·弗里德曼：但就像互聯(lián)網(wǎng)，或者像谷歌搜索所做的那樣，這是一個(gè)重大的轉(zhuǎn)變。你認(rèn)為現(xiàn)在是一個(gè)轉(zhuǎn)折點(diǎn)嗎？

奧特曼：你覺得現(xiàn)在全球經(jīng)濟(jì)與GPT-4發(fā)布之前相比有什么不同嗎？我猜你會(huì)說沒有。我的意思是，人們對(duì)AGI的定義各不相同，每個(gè)人都有各自的理解。但對(duì)我來說，我認(rèn)為這應(yīng)該是其中的一部分。

萊克斯·弗里德曼：也可能會(huì)有重大的戲劇性時(shí)刻。對(duì)你來說，AGI做的什么會(huì)讓你印象深刻？如果你獨(dú)自一人在房間里與這個(gè)系統(tǒng)對(duì)話。

奧特曼：這對(duì)我來說很重要。我不知道這是否是正確的定義。我認(rèn)為當(dāng)一個(gè)系統(tǒng)能夠顯著提高世界上科學(xué)發(fā)現(xiàn)的速率時(shí)，那就是非常了不起的事情。我相信大多數(shù)真正的經(jīng)濟(jì)增長都來自科學(xué)和技術(shù)的進(jìn)步。

萊克斯·弗里德曼：但實(shí)際上，科學(xué)發(fā)現(xiàn)的速度是可以衡量的。但即使只是看到一個(gè)系統(tǒng)擁有真正新穎的、科學(xué)的直覺，那也會(huì)令人難以置信。

奧特曼：是的。

萊克斯·弗里德曼：你很有可能會(huì)成為第一個(gè)與AGI互動(dòng)的人。你打算和它聊些什么？

奧特曼：我想這里的研究人員肯定會(huì)在我之前做這件事。但我其實(shí)已經(jīng)想過很多次了。就像我們之前討論的，雖然這可能不是一個(gè)好的出發(fā)點(diǎn)，但如果有人告訴我，“好了，山姆，我們完成了。這是一臺(tái)筆記本電腦，這就是AGI。你可以去和它交流了。”我發(fā)現(xiàn)我很難說出我會(huì)問什么，以及我期待第一個(gè)AGI能夠回答什么。第一個(gè)AGI可能不會(huì)像我想象的那樣，比如，“給我解釋一下物理學(xué)的大統(tǒng)一理論，也就是物理學(xué)的萬物理論。”我很想問這個(gè)問題，也很想知道答案。

萊克斯·弗里德曼：是非題。然后基于這個(gè)模式，你還會(huì)問：還有其他外星文明存在嗎？有還是沒有？你的直覺是什么？

奧特曼：我不期望這是第一個(gè)AGI能夠回答任何這些問題，哪怕是是非題。但如果它能，那這些問題肯定會(huì)排在我的問題列表的前列。

萊克斯·弗里德曼：率先開發(fā)出AGI的人會(huì)掌握很大的權(quán)力，你相信自己能夠妥善運(yùn)用這種權(quán)力嗎？

奧特曼：我會(huì)很誠實(shí)地回答這個(gè)問題。我本來想說，而且我現(xiàn)在仍然相信，無論是我還是其他任何一個(gè)人，都不應(yīng)該完全控制OpenAI或AGI。我認(rèn)為我們需要一個(gè)健全的治理體系。我可以指出去年我們董事會(huì)風(fēng)波中的一堆問題，比如最初我并沒有反對(duì)，只是說，“好吧，這是董事會(huì)的意愿，盡管我認(rèn)為這是一個(gè)非常糟糕的決定。”但后來，我確實(shí)反對(duì)了，我可以解釋其中的細(xì)微差別，以及為什么我認(rèn)為后來反對(duì)是合理的。但正如許多人觀察到的那樣，盡管董事會(huì)擁有解雇我的法律權(quán)力，但在實(shí)際操作中情況并沒有那么簡單。這本身就是一種治理失敗。

現(xiàn)在，我覺得自己完全為這些具體情況辯護(hù)，而且我相信大多數(shù)人也會(huì)同意這一點(diǎn)，但這確實(shí)讓我更難直視你的眼睛說，“嘿，董事會(huì)可以隨時(shí)解雇我。”一直以來，我都不希望擁有對(duì)OpenAI的超級(jí)投票控制權(quán)。我從未想過，也從未擁有過。即使經(jīng)歷了所有這些瘋狂的事情，我仍然不想要這種權(quán)力。我仍然認(rèn)為不應(yīng)該由任何一家公司做出這些決定，我們真的需要政府來制定規(guī)則。

我意識(shí)到，這可能意味著像馬克·安德森（Marc Andreessen）這樣的風(fēng)投家會(huì)指責(zé)我試圖討好監(jiān)管機(jī)構(gòu)，我寧愿在這里被誤解，盡管那不是真的。我認(rèn)為隨著時(shí)間的推移，我們?yōu)槭裁催@樣做的重要性將會(huì)得到證明。但我承認(rèn)，我在OpenAI的決策過程中也犯了很多錯(cuò)誤，當(dāng)然也有很多好的決策，我對(duì)此感到自豪。 但我不認(rèn)為應(yīng)該，也不會(huì)有任何一個(gè)人來控制整個(gè)局面�，F(xiàn)在的局勢已經(jīng)變得過于龐大，它正以一種積極健康的方式在整個(gè)社會(huì)中發(fā)展。我不認(rèn)為任何個(gè)人應(yīng)該控制 AGI 或者這個(gè)朝 AGI 邁進(jìn)的整個(gè)進(jìn)程。

萊克斯·弗里德曼：你害怕失去對(duì)AGI本身的控制嗎？很多人擔(dān)心存在性風(fēng)險(xiǎn)，不是因?yàn)閲�家行為者，也不是因�(yàn)榘踩�顧慮，而是因?yàn)槿斯ぶ悄鼙旧怼?/p>

奧特曼：目前在我所看到的情況中，這并不是我最擔(dān)心的問題。未來可能會(huì)有時(shí)候這再次成為我最擔(dān)心的問題，但至少現(xiàn)在它不是。

萊克斯·弗里德曼：你的直覺告訴你，為什么這件事不值得擔(dān)心？是因?yàn)檫�有很多其他事情需要擔(dān)心？還是你認(rèn)為自己可能會(huì)感到驚訝？

奧特曼：當(dāng)然可能。說它不是我最擔(dān)心的問題并不意味著我認(rèn)為我們不需要解決。我認(rèn)為我們需要努力解決這些問題。這非常棘手，但我們這里有很多優(yōu)秀的人在做這方面的工作。同時(shí)，我認(rèn)為還有很多其他事情我們也必須妥善應(yīng)對(duì)。

萊克斯·弗里德曼：對(duì)你來說，現(xiàn)在并不是超級(jí)容易就能跳出這個(gè)框架，連接到互聯(lián)網(wǎng)——

奧特曼：我們之前討論過戲劇性風(fēng)險(xiǎn)，而這正是一種戲劇性風(fēng)險(xiǎn)。它能夠左右人們?nèi)绾嗡伎歼@個(gè)問題。有一大群非常聰明、我認(rèn)為非常善良的人工智能安全研究人員對(duì)這個(gè)問題感到非常困惑，我認(rèn)為他們?cè)谶@個(gè)問題上沒有取得太多進(jìn)展。事實(shí)上，我很高興他們這樣做，因?yàn)槲艺J(rèn)為我們確實(shí)需要更多地思考這個(gè)問題。但是，我也認(rèn)為這種專注擠壓了對(duì)話空間，使得其他同樣重大的AI 相關(guān)風(fēng)險(xiǎn)被邊緣化了。

萊克斯·弗里德曼：鑒于Sora生成模擬世界的能力，我想問你一個(gè)可能有點(diǎn)“腦洞大開”的問題。這會(huì)讓你更相信我們可能生活在一個(gè)模擬現(xiàn)實(shí)中，它也許是由人工智能系統(tǒng)生成的？

奧特曼：在某種程度上會(huì)的。但我不認(rèn)為這是最有力的證據(jù)。我認(rèn)為我們能夠生成世界這一事實(shí)，應(yīng)該會(huì)在一定程度上提高每個(gè)人對(duì)此的接受程度或者至少增加一些對(duì)這個(gè)觀念的開放性。但我確信，我們總有一天能夠做出像Sora這樣的東西。它到來的速度比我預(yù)想的要快，不過我認(rèn)為這并沒有給我?guī)�來太大的驚訝。

萊克斯·弗里德曼：但可以預(yù)見的是，它會(huì)變得越來越好，我們有理由相信它可以生成全新的世界，它們基于某些訓(xùn)練數(shù)據(jù)，但當(dāng)你看到它們時(shí)，它們是全新的，這讓人不禁思考，創(chuàng)造這樣的宇宙，構(gòu)建一個(gè)超現(xiàn)實(shí)且像照片一般逼真的整個(gè)電子游戲世界，其實(shí)是多么容易。再進(jìn)一步思考，我們帶上VR頭顯，沉浸在這樣的世界里會(huì)有多容易，而當(dāng)我們邁向更基于物理規(guī)律的層面時(shí)，又會(huì)簡單到什么程度呢？

奧特曼：最近有人對(duì)我說，我認(rèn)為這是一個(gè)非常深刻的見解，存在一些聽起來很簡單但非常迷幻的見解。例如平方根函數(shù)，求4的平方根很輕松，2的平方根可能是一種新類型的數(shù)字。但是一旦我提出這個(gè)簡單的平方根函數(shù)的概念，你可以向一個(gè)孩子解釋，甚至通過看一些簡單的幾何圖形就能理解，那么你就可以問“負(fù)一的平方根是什么？”這就是它帶有迷幻氣息的原因。這個(gè)問題會(huì)將你引入一個(gè)完全不同的現(xiàn)實(shí)維度。

你可以舉出很多其他例子，但我認(rèn)為這個(gè)簡單的平方根運(yùn)算符能夠帶來如此深刻的見解和新的知識(shí)領(lǐng)域的想法在很多方面都適用。我認(rèn)為有很多這樣的運(yùn)算符，它們讓人們覺得他們喜歡的任何版本的模擬假說都比他們之前認(rèn)為的更有可能。但對(duì)我來說，Sora的工作甚至不在我排名前五的優(yōu)先事項(xiàng)之內(nèi)。

外星人

萊克斯·弗里德曼：當(dāng)你仰望繁星點(diǎn)點(diǎn)的夜空時(shí)，你認(rèn)為宇宙中還存在其他的外星文明嗎？也是擁有智慧的那種？

奧特曼：我非常想相信答案是肯定的。我發(fā)現(xiàn)費(fèi)米悖論非常難以理解。

萊克斯·弗里德曼：我發(fā)現(xiàn)智能不擅長處理這樣的問題，這挺讓人害怕的。但與此同時(shí)，我堅(jiān)信，宇宙中肯定存在大量的智慧外星文明。可能只是穿越太空非常艱難而已。

奧特曼：很有可能。

萊克斯·弗里德曼：這也讓我思考智能的本質(zhì)。也許我們對(duì)智能的樣子視而不見，也許人工智能會(huì)幫助我們認(rèn)識(shí)到這一點(diǎn)。智能并不像智商測試和簡單的解謎那樣簡單，它有更深層次的東西。關(guān)于人類的未來，你有什么希望？

奧特曼：我認(rèn)為過去已經(jīng)給了我們很多線索。我是說，我們看看人類在并不漫長的時(shí)間里所做的事情，雖然存在巨大的問題、深刻的缺陷，還有許多讓人深感羞恥的事情。但總體上，這是非常振奮人心的。這給了我很多希望。

萊克斯·弗里德曼：我們正共同努力邁向更美好的未來。

奧特曼：我一直好奇的是，通用人工智能將更接近于某個(gè)單獨(dú)的大腦，還是更像是聯(lián)系我們每個(gè)人的社會(huì)基礎(chǔ)設(shè)施？你從高曾祖父母那里繼承的基因變異并不大，但你所具備的能力卻截然不同，你所知道的東西也截然不同。這并不是因?yàn)樯�物學(xué)上的演變。我的意思是，你可能變得更健康了一些，有了現(xiàn)代醫(yī)學(xué)的幫助，你可能吃得更好。但重要的是，你擁有的是我們所有人共同構(gòu)建的知識(shí)和技能的框架。沒有任何一個(gè)人會(huì)單獨(dú)去制造iPhone。沒有任何一個(gè)人會(huì)獨(dú)自去發(fā)現(xiàn)所有科學(xué)知識(shí)，但你能夠利用這些知識(shí)。這賦予了你難以置信的能力。在某種程度上，這是我們所有人共同創(chuàng)造的成果，這讓我對(duì)未來充滿了希望。那是一項(xiàng)集體努力的成果。

萊克斯·弗里德曼：我們確實(shí)站在巨人的肩膀上。你之前提到，當(dāng)我們遇到戲劇性的人工智能風(fēng)險(xiǎn)時(shí)，有時(shí)你可能會(huì)擔(dān)心自己的生命安全。你有沒有想到過自己的死亡嗎？你害怕嗎？

奧特曼：如果我知道自己明天會(huì)被槍殺，而我今天就知道了，我會(huì)想，“哦，那太遺憾了。我想看看接下來會(huì)發(fā)生什么。多么不可思議、多么有趣的時(shí)刻。”不過，我最主要的感覺還是會(huì)非常感激我所擁有的生活。