這次最新的超長篇訪談深入探討了人工智能的前沿領域。谷歌DeepMind的領導者德米斯·哈薩比斯與Lex·弗里德曼討論了他關于自然模式可學習性的猜想、AI在模擬物理世界（如流體動力學）和創造交互式游戲世界中的巨大潛力。對話還涵蓋了通往通用人工智能（AGI）的路徑、其定義與測試方法，以及AI對科學、能源、經濟和人類未來的深遠影響。
核心觀點
• 任何在自然界中可以進化或生成的模式，原則上都可以被經典的機器學習算法有效發現和建模。
• AI在模擬物理現象（如視頻生成模型VEO）和創造動態、個性化的開放世界游戲方面展現出驚人潛力。
• 實現AGI不僅需要計算規模的擴展，還可能需要類似AlphaGo的“第37步”那樣的研究突破，并需解決“研究品味”等難題。
• AI將成為解決能源、氣候、疾病等重大挑戰的終極工具，可能帶領人類進入一個資源極大豐富的后稀缺時代。
• AGI的開發必須以謹慎的樂觀態度進行，合作與安全是確保這項強大技術造福全人類的關鍵。
引言：可學習的宇宙
Lex: 我們人類很難對高度非線性的動力系統做出任何清晰的預測。但再次回到你的觀點，我們可能會對經典學習系統在流體方面所能做的事情感到非常驚訝。
德米斯: 是的，沒錯。我的意思是，流體動力學、納維-斯托克斯方程，這些傳統上被認為是經典系統上非常、非常困難、棘手的問題。它們需要大量的計算，例如天氣預測系統，你知道的，這些都涉及流體動力學計算。但同樣，如果你看看像VEO這樣的東西，我們的視頻生成模型，它可以很好地模擬液體，出奇地好，以及材料、鏡面反射光照。我喜歡那些有人生成視頻，其中有透明液體通過液壓機，然后被擠出來的視頻。我早期在游戲領域編寫過物理引擎和圖形引擎，我知道構建能夠做到這一點的程序是多么費力。然而，不知何故，這些系統正在通過觀看YouTube視頻進行逆向工程。因此，推測發生的情況是，它正在提取這些材料行為方式的一些底層結構。因此，如果我們真正完全理解了內部發生的事情，也許存在某種可以學習的低維流形。也許，你知道，這可能對大多數現實都是如此。
Lex: 以下是與德米斯·哈薩比斯（Demis Hassabis）的對話，這是他第二次參加播客節目。他是谷歌DeepMind的領導者，現在是諾貝爾獎獲得者。德米斯是當今世界上最聰明、最迷人的人才之一，致力于理解和構建智能，并探索我們宇宙的重大謎團。能夠邀請他參加節目，我感到非常榮幸。
在您的諾貝爾獎演講中，您提出了我認為非常有趣的猜想，即“自然界中可以生成或發現的任何模式都可以通過經典的機器學習算法有效地發現和建模”。其中可能包含哪些類型的模式或系統？生物學、化學、物理學，或許是宇宙學、神經科學，我們在談論什么？
德米斯: 當然。嗯，你看，我覺得諾貝爾獎的演講有點像是傳統，我認為，你應該有點挑釁意味，我想遵循這個傳統。我在那里談論的是，如果你退一步，看看我們所做的所有工作，特別是 Alpha X 項目，所以我想到的是 Alpha Go，當然還有 Alpha Fold，它們真正的意義在于，我們正在構建非常組合性高維空間的模型，如果你試圖強行找到解決方案，比如在圍棋中找到最佳著法，或者找到蛋白質的精確形狀，如果你列舉所有可能性，宇宙的時間都不夠用。所以你必須做一些更聰明的事情。在這兩種情況下，我們所做的都是構建這些環境的模型，從而以一種聰明的方式引導搜索，使其變得易于處理。
所以如果你考慮蛋白質折疊，這顯然是一個自然系統，為什么這會成為可能？物理學是如何做到這一點的？蛋白質在我們體內以毫秒級的速度折疊，所以物理學以某種方式解決了這個問題，而我們現在也通過計算解決了這個問題。我認為之所以成為可能，是因為在自然界中，自然系統具有結構，因為它們受到塑造它們的進化過程的影響。如果這是真的，那么你也許可以了解這種結構是什么。
Lex: 所以我認為，這個視角確實非常有趣。你已經暗示過了，粗略地說，任何可以進化的事物都可以被高效地建模。認為這有道理嗎？
德米斯: 是的，我有時稱它為“最穩定者的生存”或類似的東西，因為當然存在生命、生物的進化，但是，如果你考慮到地質時間，比如山脈的形狀，那是經過數千年的風化過程塑造的，然后你甚至可以將其推廣到宇宙學，行星的軌道，小行星的形狀，這些都經歷了某種生存過程，這些過程在它們身上發生了無數次。所以如果這是真的，那么應該存在某種模式，你可以逆向學習，并且實際上存在一種流形，可以幫助你搜索到正確的解決方案，正確的形狀，并且實際上允許你以有效的方式預測有關它的信息，因為它不是隨機模式，對嗎？
所以對于人造事物或抽象事物（例如分解大數）來說，這可能是不可能的，因為除非數字空間中存在模式，這可能存在，但如果沒有并且它是均勻的，那么就沒有要學習的模式。沒有可以學習的模型來幫助你搜索。你必須使用蠻力。所以在這種情況下，你可能需要一臺量子計算機，或者類似的東西。但是我們感興趣的大多數自然事物并非如此。它們擁有因某種原因而進化并在時間中幸存下來的結構。如果這是真的，我認為這可能可以通過神經網絡學習。
Lex: 就像大自然在進行一個搜索過程，令人著迷的是，在這個搜索過程中，它創造了可以被有效建模的系統。
德米斯: 是的，沒錯。是啊。真有趣。所以它們可以被有效地重新發現或恢復，因為自然不是隨機的，對吧？這些，我們周圍看到的一切，包括更穩定的元素，所有這些東西，都受到某種選擇過程、壓力的影響。
模擬現實：從物理到計算
Lex: 你認為，因為你也是理論計算機科學和復雜性的愛好者，你認為我們可以提出一種復雜性類別，比如一種復雜性動物園類型的類別，也許是可學習系統集合，可學習的自然系統集合，L和S？這是一類新的系統，實際上可以通過這種方式被經典系統學習，是可以被有效建模的自然系統。
德米斯: 是的。我的意思是，我一直對P=NP問題著迷，以及經典系統可以建模什么，即非量子系統，你知道，實際上是圖靈機。這正是我實際上在用一些空閑時間和一些同事一起研究的內容，關于是否應該存在，你知道，可能有一種新型的問題，可以通過這種類型的神經網絡過程解決，并映射到這些自然系統上。所以，你知道，存在于物理學中并具有結構的事物。所以我認為這可能是一種非常有趣的新思考方式。這在某種程度上符合我思考物理學的方式，也就是說，你知道，我認為信息是首要的。信息是宇宙中最基本的一個單位，比能量和物質更基本。所以我認為它們都可以相互轉化。但我認為宇宙是一種信息系統。所以當你把宇宙看作一個信息系統時，那么P=NP問題就是一個物理學問題。
Lex: 因此，當你把宇宙看作一個信息系統時，那么P=NP問題就是一個物理問題。
德米斯: 沒錯。
Lex: 而且這個問題實際上可以幫助我們解決目前正在發生的整個事件。
德米斯: 是的，我認為這實際上是最根本的問題之一，如果你認為物理學是信息性的。我認為這個問題的答案將會非常具有啟發性。
Lex: 更具體地說是關于P與NP問題。再次聲明，我們現在所說的一些東西可能有點瘋狂。就像克里斯蒂安·阿特金森的諾貝爾獎獲獎感言一樣，他說了一些有爭議的事情，聽起來很瘋狂。然后你和約翰· jumper一起憑借這個獲得了諾貝爾獎，解決了這個問題。所以，讓我回到P等于NP的問題。你認為我們正在討論的這個問題中是否存在一些東西可以被證明，如果你能做到類似多項式時間或常數時間，提前計算，并構建這個巨大的模型，那么你就可以用一種理論計算機科學的方式來解決這些極其困難的問題嗎？
德米斯: 是的，我認為實際上有很大一類問題可以用這種方式來解決，就像我們做AlphaGo和AlphaFold的方式一樣，你知道，你可以建模系統的動態特性、系統的屬性以及你試圖理解的環境。然后，這使得尋找解決方案或預測下一步變得高效，基本上是多項式時間。所以對于經典系統來說是可以處理的，而神經網絡就是一個經典系統，它在普通的計算機上運行，對吧？經典計算機，實際上就是圖靈機。
我認為這是目前最有趣的問題之一，那就是這種范式能走多遠？你知道，我認為我們已經證明了，整個AI社區也證明了，經典系統，圖靈機，可以比我們之前認為的走得更遠。你知道，它們可以做一些事情，比如模擬蛋白質的結構，以及在圍棋方面比世界冠軍水平更高。而且，你知道，很多人可能在10、20年前會認為，這還需要幾十年，或者可能需要某種量子機器或量子系統才能做像蛋白質折疊這樣的事情。所以我認為，我們甚至還沒有真正觸及所謂的經典系統能夠做什么的皮毛。當然，建立在神經網絡系統之上，建立在經典計算機之上的AGI，將是這種表達的終極體現。我認為這個限制，你知道，這種系統的界限，它能做什么，這是一個非常有趣的問題，直接關系到P等于NP問題。
Lex: 你覺得，再次假設，什么可能會超出這個范圍，也許是涌現現象？比如你看看元胞自動機，一些，你擁有極其簡單的系統，然后一些復雜性涌現出來。也許那會超出范圍，或者你甚至會猜測，即使是那樣，也可能可以通過經典機器進行高效建模？
德米斯: 是的，我認為這些系統正處于邊界上，對吧？所以我認為大多數涌現系統，元胞自動機，諸如此類的東西，都可以用經典系統建模。你只需對它進行正向模擬，而且可能足夠高效。當然，存在諸如混沌系統之類的問題，其中初始條件至關重要，然后你得到一些，你知道，不相關的最終狀態。現在這些可能很難建模。所以我認為這些都是開放性問題，但我覺得當你退一步，看看我們用這些系統所做的事情，以及我們所解決的問題，然后你再看看像VEO3這樣的視頻生成，比如渲染物理和光照等，你知道，真正物理學中的核心基本要素，那就非常有趣了。我認為這在告訴我一些關于宇宙如何被構建的非常根本的東西。所以，你知道，在某種程度上，這就是我想構建通用人工智能（AGI）的原因，是為了幫助我們作為科學家回答像P=NP這樣的問題。是的，我認為我們可能會對經典計算機可以建模的東西不斷感到驚訝。
Lex: 我的意思是，AlphaFold 3 在交互方面令人驚訝，你可以在那個方向上取得任何進展。Alpha Genome 令人驚訝，你可以將基因代碼映射到功能。有點像在玩涌現現象，你認為有如此多的組合選項，但結果卻出乎意料。你可以找到可以有效建模的內核。
德米斯: 是的，因為有一些結構，有一些景觀，你知道，在能量景觀或其他什么中，你可以遵循，一些梯度你可以遵循。當然，神經網絡非常擅長跟蹤梯度。因此，如果有一個可以遵循的梯度，并且你可以正確指定目標函數，你知道，你就不必處理所有這些復雜性，我認為這也許是我們幾十年來天真地思考這些問題的方式。如果你只是列舉所有可能性，它看起來完全是難以處理的。那里有非常非常多的類似問題。然后你會想，嗯，就像10的300次方種可能的蛋白質結構，10的170次方種可能的圍棋局面。所有這些都遠遠超過了宇宙中的原子數量。那么，人們怎么可能找到正確的解決方案或預測下一步呢？而且，但事實證明這是可能的。當然，自然界的現實確實做到了，對吧？蛋白質確實會折疊。所以這讓你有信心，一定有，如果我們理解了物理學在某種意義上是如何做到這一點的，那么，如果我們能夠模仿這個過程，模擬這個過程，那么在我們經典的系統上也是可以實現的，這基本上就是這個猜想的內容。
Lex: 當然還有非線性動力系統，高度非線性的動力系統，所有涉及流體的東西。是的，沒錯。你知道，我最近和陶哲軒進行了一次談話，他在數學上研究了具有一些奇點的系統的非常困難的方面，這些奇點破壞了數學。對于我們人類來說，對高度非線性動力系統做出任何清晰的預測都很難。但再次，正如你所說，我們可能會對經典學習系統在流體方面所能做的事情感到非常驚訝。
德米斯: 是的，完全正確。我的意思是，流體動力學、納維-斯托克斯方程，這些傳統上被認為是經典系統上非常、非常困難、棘手的問題。它們需要大量的計算，你知道，天氣預報系統，你知道，這些東西都涉及到流體動力學計算。而且，但是再次，如果你看看像VEO這樣的東西，我們的視頻生成模型，它可以很好地模擬液體，出奇地好，還有材料，鏡面反射。我喜歡那些有人生成視頻，里面有透明液體通過液壓機，然后被擠壓出來的視頻。我早年在游戲行業時，曾編寫過物理引擎和圖形引擎。我知道構建能夠做到這一點的程序是多么令人費力。然而，不知何故，這些系統正在通過觀看YouTube視頻進行逆向工程。因此，推測發生的情況是，它正在提取關于這些材料如何表現的一些底層結構。因此，也許存在某種低維流形，如果我們真正完全理解了內部發生的事情，就可以學習它。也許這適用于大多數現實。
Lex: 是的，我一直被VEO 3的這個方面所吸引。我認為很多人強調不同的方面，包括喜劇和刻薄以及所有類似的東西，然后是超現實的能力，以一種引人注目并感覺接近現實的方式捕捉人類。然后將其與原生音頻結合起來。所有這些都是VEO 3的奇妙之處，但正是您提到的物理特性。是的。它并不完美，但已經相當不錯了。然后，真正有趣的科學問題是，它理解了我們世界的什么才能做到這一點？由于對擴散模型的憤世嫉俗的看法，它不可能理解任何東西。但看起來，我的意思是，我認為不理解就無法生成那樣的視頻。然后我們自己對理解的哲學概念就被提到了表面。你認為VEO 3在多大程度上理解我們的世界？
德米斯: 我認為，如果它能以連貫的方式預測接下來的幀，那就是一種理解，對吧？不是擬人化的版本，不是對正在發生的事情的某種深刻的哲學理解。我認為這些系統不具備那種理解。但它們肯定已經對足夠多的動態進行了建模，這么說吧，它們可以相當準確地生成任何東西，8秒鐘的連貫視頻，至少乍一看，很難區分問題是什么。想象一下，再過兩三年，這就是我在考慮的事情，鑒于我們已經取得的進展，以及一兩年前的早期版本，這將是多么不可思議。因此，進展的速度是驚人的。
我想我和你一樣，很多人喜歡所有的單口喜劇演員，實際上這很好地捕捉了很多人類動態和肢體語言。但實際上，我印象最深刻、最著迷的是物理行為，光照、材質和液體。并且它能做到這一點，這非常了不起。我認為這表明它至少對直覺物理學有一些概念，對吧？事物應該如何憑直覺運作，也許像一個孩子理解物理學的方式，對吧，而不是一個博士生真正能夠拆解所有的方程式。這更像是一種直覺上的物理學理解。
Lex: 好的，這種直覺上的物理學理解，那是基礎層。那是人們有時稱之為常識的東西。它確實理解了一些東西。我認為這真的讓很多人感到驚訝。這讓我震驚，我之前竟然認為不理解就無法生成那種程度的真實感。有一種觀念認為，你只能通過擁有一個具身人工智能系統，一個與世界互動的機器人，來理解物理世界。這是構建對世界理解的唯一途徑。但VEO3似乎直接挑戰了這一點。
德米斯: 是的。這非常有趣，即使你5年或10年前問我，即使我當時沉浸在所有這些之中，我也會說，是的，你可能需要理解直覺物理學。比如，如果我把這個玻璃杯從桌子上推下去，它可能會摔碎，液體會濺出來，對吧？所以我們都知道這些事情。但我當時認為，你知道，神經科學中有很多理論，叫做行動中的感知，即你需要在世界中行動才能真正地以深刻的方式感知它。并且有很多關于你需要具身智能或機器人技術或其他東西，或者至少是模擬行動的理論，這樣你才能理解諸如直覺物理學之類的事情。但看起來你可以通過被動觀察來理解它，這對我來說非常令人驚訝。
而且，我認為這再次暗示了關于現實本質的某些深層東西，在我看來，不僅僅是它生成的那些酷炫視頻。當然，下一個階段可能是讓這些視頻具有互動性。這樣人們就可以真正地進入它們并在其中移動，這將是真正令人震驚的，特別是考慮到我的游戲背景。所以你可以想象。然后我認為，你知道，我們開始接近我所說的世界模型，一個關于世界如何運作、世界的機制、世界的物理學以及世界中事物運作的模型。當然，這對于真正的通用人工智能（AGI）系統來說是必需的。
游戲的未來：AI驅動的開放世界
Lex: 我必須和你談談電子游戲。所以你有點在釣魚。我認為你在推特（現在的X）上越來越開心了，很高興看到這一點。所以有個叫吉米·阿普爾斯的人發推文說，讓我玩一個基于我的VEO3視頻的電子游戲吧。谷歌做得如此出色，可玩的世界模型何時推出，拼寫為H-E-N，問號。然后你轉發了那條推文，還配文說，那豈不是一件很棒的事情？那么用人工智能構建游戲世界有多難？也許，你能展望一下視頻游戲的未來，5年，10年后嗎？
德米斯: 你覺得會是什么樣的？嗯，游戲實際上是我的初戀，為游戲開發人工智能是我青少年時期第一份專業工作，也是我構建的第一個大型人工智能系統。而且我一直想，我想有一天能止癢，然后回到那個領域。所以，你知道，我會做的，我想。而且我想我會夢想著，如果我在90年代就能接觸到我們今天擁有的人工智能系統，我會做些什么？而且我認為你可以構建出絕對令人震驚的游戲。
我認為下一個階段是，我一直喜歡制作，我制作的所有游戲都是開放世界游戲。所以它們是這樣一種游戲：其中有一個模擬，然后有AI角色，然后玩家與該模擬互動，而模擬會適應玩家的玩法。我一直覺得它們是最酷的游戲，比如我參與制作的《主題公園》之類的游戲，每個人的游戲體驗對他們來說都是獨一無二的，因為你實際上是在共同創造游戲，對吧？我們設置參數，我們設置初始條件，然后你作為玩家沉浸其中，然后你與模擬共同創造它。
但當然，編程開放世界游戲非常困難。你必須能夠創造內容，無論玩家朝哪個方向前進，而且你希望無論玩家選擇什么，它都引人入勝。因此，實際上很難構建像細胞自動機這樣的東西，即創建某種涌現行為的經典系統。但它們總是有點脆弱，有點局限性。現在，我們可能在未來幾年，5到10年內，即將擁有能夠真正圍繞你的想象力進行創作的AI系統，現在可以動態地改變故事，圍繞敘事進行講述，并使其無論你最終選擇什么都充滿戲劇性。所以這就像終極的“選擇你自己的冒險”式游戲。我認為也許我們觸手可及，如果你想到一種互動版本的VEO，然后將其向前推進5到10年，想象一下它會有多好。
Lex: 是的，你剛才說了很多非常有趣的東西。首先，其中內置的開放世界是一種深度個性化，正如你所描述的那樣。所以不僅僅是開放世界，比如你可以打開任何一扇門，然后里面會有東西。而是以一種不受約束的方式選擇你打開哪扇門，定義了你所看到的世界。
所以有些游戲試圖這樣做，它們給你選擇，但實際上只是一種選擇的幻覺，就像《史丹利的寓言》（Stanley Parable）一樣，這是我本打算玩的游戲。實際上，只有幾扇門，它只是把你帶入一個敘事中。《史丹利的寓言》是一個很棒的電子游戲，我推薦大家玩，它以一種元方式嘲弄了選擇的幻覺，并且存在關于自由意志的哲學概念等等。但我確實喜歡我最喜歡的游戲之一，《上古卷軸》（Felder Scrolls），《匕首雨》（Daggerfall），我相信，他們真的玩弄了一種，比如隨機生成地牢的方式。是的。如果你能介入，他們會給你一種開放世界的感覺。而且，你提到了互動性，你不需要互動，這是第一步，因為你不需要互動那么多，只是當你打開門時，你所看到的一切都是為你隨機生成的。這已經是一種難以置信的體驗了，因為你可能是唯一一個看到它的人。
德米斯: 是的，完全正確。所以，但你想要的可能比僅僅是某種隨機生成要好一點，對吧？所以你希望，而且比簡單的A、B硬編碼選擇要好，對吧？那不是真正的開放世界，對吧？正如你所說，那只是給你一種選擇的錯覺。你想能夠做到的是在這個游戲環境中潛在地做任何事情。而且我認為實現這一點的唯一方法是擁有生成系統，即能夠動態生成內容的系統。當然，你不能創造無限數量的游戲資產，對吧？如今3A游戲的制作成本已經非常高昂了。
而且早在90年代，當我制作所有這些游戲時，這對我們來說是很明顯的。我認為《黑與白》可能是我早期參與制作的游戲，它可能仍然擁有最好的AI，即學習型AI。這是一個早期的強化學習系統，你負責照看這個神話般的生物，并讓它成長和被培養。根據你對待它的方式，它會以同樣的方式對待那個世界的村民。所以如果你對它很刻薄，它也會很刻薄。如果你很友善，它就會有保護欲。所以它實際上是你玩游戲方式的一種反映。所以實際上，在我職業生涯的初期，我一直在通過游戲媒介研究模擬和AI。實際上，我今天所做的一切仍然是從早期那些更硬編碼的AI方法，到現在的完全通用的學習系統的一個延續，它們都在試圖實現同樣的目標。
Lex: 是的，看到你和埃隆顯然都渴望創造游戲真是既有趣又滑稽，而且很有意思，因為你們都是游戲玩家。而你在如此多的科學領域，比如嚴肅的成人事務方面取得令人難以置信的成功，其中一個令人難過的方面是你可能沒有時間真正創造一款游戲。你最終可能會創造出其他人用來創造游戲的工具。你不得不看著別人創造出你一直夢想的東西。你認為你是否有可能在極其繁忙的日程中抽出時間來創造像《黑與白》這樣的東西，一個真正的電子游戲，在那里你可以讓童年的夢想成為現實？
德米斯: 嗯，當我想到這件事時，有兩個想法，也許隨著氛圍編碼技術的改進，有可能在你的空閑時間里做到這一點。所以我對此感到非常興奮。如果我有時間做一些氛圍編碼，那將是我的項目。我實際上很想這樣做。還有一件事是，也許在AGI（通用人工智能）被安全地管理并交付到世界之后，可以休個學術假。你知道，然后研究我的物理理論，正如我們在開始時談到的那樣，這將是我的兩個后AGI項目。就這么稱呼它吧。
Lex: 我很想看看后通用人工智能時代你會選擇哪個，解決一些人類歷史上最聰明的人都在爭論的問題。所以P是否等于NP，或者創造一個酷炫的視頻。
德米斯: 是的，好吧，但在我的世界里，它們會是相關的，因為它會是一個盡可能逼真的開放世界模擬游戲。所以，你知道，宇宙是什么？這就是在探討同一個問題，對吧？以及P是否等于NP。我認為所有這些事情都是相關的，至少在我看來是這樣。
Lex: 我的意思是，非常嚴肅地說，我認為電子游戲有時會受到一些貶低。那只是一個有趣的副業活動。但尤其是在人工智能完成越來越多困難、乏味的任務時，我們現代世界稱之為工作的那些事，電子游戲可能是我們找到意義所在，找到如何利用時間的方式。你可以創造極其豐富、有意義的體驗。就像那是人類的生活一樣。然后在電子游戲中，你可以創造更復雜、更多樣化的生活方式。是的，我是這么認為的。
德米斯: 我的意思是，我們這些熱愛游戲的人，而且我現在仍然熱愛，你知道，它幾乎可以讓你的想象力自由馳騁。對吧？我曾經非常熱愛游戲和開發游戲，因為它是一種融合，尤其是在90年代和2000年代初，那個黃金時代，也許是游戲行業的80年代。一切都在被發現。新的游戲類型不斷涌現。我們不僅僅是在制作游戲。我們覺得我們正在創造一種前所未有的全新娛樂媒介，尤其是在這些開放世界游戲和模擬游戲中，玩家可以共同創造故事。沒有其他媒體，沒有其他娛樂媒體能讓你做到這一點，讓作為觀眾的你實際參與共同創造故事。當然，現在有了多人游戲，這也可以成為一種非常具有社交性的活動，并可以在其中探索各種有趣的世界。
但另一方面，你知道，享受和體驗現實世界也非常重要。但問題是，你知道，我認為我們將不得不再次面對關于現實的本質是什么的問題？這些日益逼真的模擬、多人游戲以及涌現的（emergent）事物與我們在現實世界中所做的事情之間，區別將是什么？
Lex: 是的，體驗真實世界的自然風光顯然具有巨大的價值。親身體驗他人，就像我們今天坐在這里一樣，也具有巨大的價值。但是我們需要真正科學地、嚴格地回答這個問題，為什么？以及其中哪些方面可以映射到虛擬世界中？沒錯。而且僅僅說，是啊，你應該去接觸草地，在自然中閑逛，這還不夠。這就像，那樣做究竟為什么有價值？
德米斯: 是的，我想這也許就是從我職業生涯一開始就一直困擾我、讓我著迷的事情。如果你考慮我所做的所有不同的事情，它們都以那種方式相關聯。模擬，現實的本質，以及可以被建模的范圍的界限是什么？
進化與創造：AI的自我超越
Lex: 抱歉問一個荒謬的問題，但到目前為止，有史以來最偉大的電子游戲是什么？
德米斯: 那里有什么？嗯，我一直以來最喜歡的游戲是《文明》，我不得不說。那是《文明I》和《文明II》，我一直以來最喜歡的游戲。
Lex: 我只能認為你避開了最新的一部，因為它可能會，那會是你的學術休假。這樣你就會消失。
德米斯: 是的，完全正確。這些《文明》游戲會占用大量時間。所以我必須小心對待它們。
Lex: 有趣的問題。你和埃隆似乎都是資深玩家。擅長游戲和成為人工智能公司的偉大領導者之間是否存在某種聯系？
德米斯: 我不知道。這是個有趣的問題。我的意思是，我們都熱愛游戲，而且有趣的是，他最初也是通過編寫游戲起家的。這很可能，尤其是在我成長的年代，80年代末和90年代家用電腦剛剛興起的時候，尤其是在英國。我有一臺Spectrum，然后是Commodore Amiga 500，這是我最喜歡的電腦。這就是我學習所有編程的原因。當然，編程是一件非常有趣的事情，尤其是游戲編程。所以我認為這是一種學習編程的好方法，可能現在仍然是。然后，當然，我立即將它引向了人工智能和模擬的方向，所以我能夠同時表達我對游戲和我更廣泛的科學興趣。
我認為游戲的最后一個偉大之處在于，它將藝術設計、美術與最前沿的編程融合在一起。所以同樣，在90年代，所有最有趣的技術進步都發生在游戲領域，無論是人工智能、圖形、物理引擎、硬件，甚至是GPU，當然，最初都是為游戲設計的。因此，90年代推動計算機技術進步的一切都歸功于游戲。所以有趣的是，那是研究的前沿領域。而它是藝術、圖形以及音樂的不可思議的融合，以及全新的敘事媒體。我喜歡那樣。對我來說，這種多學科的努力又是我一生都在享受的事情。
Lex: 我得問你，我幾乎忘記了最近發生的眾多事情中的一件，我認為也是最不可思議的事情之一，不知何故，這件事還沒有得到足夠的關注，那就是Alpha Evolve。我們稍微談到了進化，但它是谷歌DeepMind的系統，可以進化算法。像這種類似進化的技術，作為未來超級智能系統的組成部分，有希望嗎？所以對于那些不了解的人來說，可以這么說，我不知道這么說是否公平，它是LLM引導的進化搜索。所以進化算法在進行搜索，而LLM告訴你搜索的方向。
德米斯: 是的，完全正確。所以LLM有點像提出一些可能的解決方案，然后你在此基礎上使用進化計算來找到搜索空間中的一些新穎部分。所以實際上，我認為這是一個非常有希望的方向的例子，你可以將LLM或基礎模型與其他計算技術相結合。進化方法是一種，但你也可以想象蒙特卡洛樹搜索，基本上許多類型的搜索算法或推理算法都建立在或使用基礎模型作為基礎。所以我實際上認為，通過這些混合系統（我們這樣稱呼它們），可能會發現很多有趣的東西。
Lex: 但不要把進化浪漫化。是的。我只是個普通人，但你認為無論那種機制是什么，都有其價值嗎？因為我們已經談論過自然系統了。你是否認為，在理解、建模和模擬進化方面，有很多唾手可得的成果，然后利用我們所理解的關于自然啟發機制的一切，從而使搜索做得越來越好？
德米斯: 因此，如果你再次考慮將我們構建的系統分解為真正基本的核心，你會得到系統底層動態的模型。然后，如果你想發現一些新的、以前從未見過的東西，那么你需要某種搜索過程來把你帶到搜索空間的一個新的區域。你可以通過多種方式做到這一點。進化計算就是其中之一。有了AlphaGo，我們只是使用了蒙特卡洛樹搜索，對吧？這就是找到第37步的原因，圍棋中前所未見的全新策略。這就是你如何超越可能已知的范圍。所以這個模型可以模擬你目前所知道的一切，對吧？所有你目前擁有的數據，但是你如何超越它呢？這就開始談到創造力的概念。這些系統如何創造新的事物，發現新的事物？顯然，這與科學發現或推動科學和醫學進步超級相關，而這正是我們想用這些系統做的事情。實際上，你可以在這些模型之上附加一些相當簡單的搜索系統，并將你帶入一個全新的空間區域。當然，你還必須確保你沒有完全隨機地搜索那個空間。那樣會太大了。所以你必須有一個你試圖優化的目標函數，并且朝著它進行爬山算法，從而指導搜索。
Lex: 但是有一些有趣的進化機制，可能在程序的空間中，而程序的空間是一個極其重要的空間，因為你可能可以將其推廣到所有事物。但例如，突變。所以它不僅僅是蒙特卡洛樹搜索，而像是一種搜索。你可以偶爾——組合事物，是的。組合事物，比如事物的組成部分。所以進化真正擅長的不僅僅是自然選擇，還在于組合事物并構建日益復雜的層級系統。所以那個組成部分非常有趣，特別是像Alpha Evolve在程序空間中的應用。
德米斯: 是的，沒錯。因此，你可以從進化系統中獲得一些額外的屬性，即可能會出現一些新的涌現能力。當然，就像生命發生的那樣。有趣的是，使用不含大型語言模型和現代人工智能的樸素的傳統進化計算方法，它們的問題在于，在90年代和2000年代初得到了很好的研究，并取得了一些有希望的結果。但問題是，他們始終無法弄清楚如何進化出新的屬性，新的涌現屬性。你總是擁有你放入系統中的屬性的某種子集。但也許如果我們把它們和這些基礎模型結合起來，也許我們可以克服這個限制。
顯然，自然進化確實做到了，因為它確實進化出了新的能力，對吧？從細菌進化到我們現在這樣。因此，很明顯，進化系統必須能夠生成新的模式，回到我們談到的第一件事，以及新的能力和涌現屬性。也許我們正處于發現如何做到這一點的風口浪尖。
Lex: 是的，聽著，“阿爾法進化”是我見過的最酷的東西之一。我在家里的辦公桌上，大部分時間都花在那臺電腦上，只是編程。在三個屏幕旁邊是一個提塔利克魚的頭骨，它是早期從水中爬到陸地上的生物之一。我只是看著那個小家伙。這就像，無論進化的計算機制是什么，它都非常不可思議。真是，真是不可思議。現在，這是否正是我們需要用來進行搜索的方法，但永遠不要忽視自然的力量及其在此所做的事情。
德米斯: 是的。令人驚嘆的是，這實際上是一個相對簡單的算法，對吧。它可以產生所有這些巨大的復雜性。顯然，它是在超過40億年的時間里運行而產生的。但是，你可以再次將其視為一個搜索過程，該過程在宇宙的物理基質上運行了很長的計算時間。但隨后它產生了所有這些令人難以置信的、豐富的多樣性。
科學的品味：AI能提出偉大的猜想嗎
Lex: 所以，我有很多問題想問你。所以首先，你確實有一個夢想。你想嘗試建模的自然系統之一是細胞。這是一個美麗的夢想。我可以問你關于那個的問題。還有，就為此目的而言，在人工智能科學家方面，只是泛泛地說。所以丹尼爾·科卡塔格里奧、斯科特·亞歷山大和其他人寫了一篇文章，概述了通往人工智能超智能的步驟。它有很多有趣的觀點，其中之一是包括一個超人類程序員和一個超人類人工智能研究員。在那篇文章中，有一個“研究品味”的術語非常有趣。所以在你所看到的一切中，你認為人工智能系統有可能擁有研究品味嗎？能夠像人工智能合作科學家那樣幫助你，幫助引導人類，人類杰出的科學家，然后可能靠自己弄清楚你想在哪些方向上產生真正新穎的想法？因為這似乎是做好偉大科學的一個非常重要的組成部分。
德米斯: 是的，我認為品味或判斷力這個概念將是最難模仿或建模的事情之一。我認為這就是偉大科學家和優秀科學家的區別所在。像所有專業的科學家在技術上都很好，否則他們不會在學術界等方面取得如此大的成就。但是你是否有品味去嗅出正確的方向是什么，正確的實驗是什么，正確的問題是什么。所以選擇正確的問題是科學中最難的部分，以及提出正確的假設。這也是今天的系統絕對無法做到的。
所以我經常說，提出一個猜想，一個真正好的猜想，比解決它更難。所以我們可能很快就會有能夠解決相當困難的猜想的系統。你知道，我參與了數學奧林匹克競賽的問題，我們，你知道，去年的 Alpha Proof，我們的系統在那次競賽中獲得了銀牌，題目非常難。也許最終我們能夠解決一個千禧難題。但是一個系統能否提出一個值得研究的猜想，讓像陶哲軒這樣的人會說，你知道嗎，這是一個關于數學本質、數字本質或物理本質的非常深刻的問題。那是一種更難的創造力。我們現在真的不知道，今天的系統顯然做不到這一點。而且我們不太確定那種機制會是什么，這種想象力的飛躍，就像愛因斯坦在提出狹義相對論，然后根據他當時的知識提出廣義相對論時所擁有的。
Lex: 對于猜想，你想要提出一個有趣的東西，它易于證明。是的。所以，很容易提出一個極其困難的東西。很容易提出一個極其容易的東西，但就在那個邊緣。那個最佳點，對吧？
德米斯: 基本上是推進科學發展，并將假設空間理想地分成兩部分，對嗎？無論它是真是假，你都學到了一些非常有用的東西。那很難。并且制造出一些可證偽的東西，并在你目前可用的技術范圍內。所以這實際上是一個非常有創造性的過程，一個高度創造性的過程，我認為僅僅在模型之上進行一種幼稚的搜索是不夠的。
Lex: 好的，將假設空間分成兩部分的想法非常有趣。所以我聽你說過，基本上不存在失敗，或者如果問題構建得當，實驗構建得當，設計得當，那么失敗就非常有價值，也就是說，失敗或成功都是有用的。所以也許因為它將假設空間分成兩部分，就像一個二分搜索。
德米斯: 沒錯。所以當你做真正的藍天研究時，實際上并不存在失敗，只要你選擇的實驗和假設能夠有意義地分割假設空間。所以，你知道，如果你學到了一些東西，你可以從一個不成功的實驗中學到同樣有價值的東西。這應該能告訴你實驗設計是否合理，以及你的假設是否有趣，它應該能告訴你接下來該往哪個方向走。然后你實際上是在做一個搜索過程，并以非常有用的方式利用這些信息。
藍圖：模擬細胞與生命起源
Lex: 所以要實現你建模細胞的夢想，我們未來會面臨哪些重大挑戰？我們或許應該強調一下AlphaFold，我的意思是，這里面有很多飛躍。所以，如果說AlphaFold解決了蛋白質折疊問題，這是很公平的，而且有很多令人難以置信的事情可以討論，包括開源、你發布的一切。AlphaFold 3正在進行蛋白質、RNA、DNA的相互作用，這非常復雜且引人入勝。它適合建模。AlphaGenome預測了微小的基因變化，比如如果我們考慮單點突變，它們如何與實際功能聯系起來。所以，這看起來進展緩慢。從復雜到像細胞這樣更復雜的東西，但是細胞有很多非常復雜的組成部分。
德米斯: 是的，所以我整個職業生涯都在嘗試做的事情就是，我有一些非常宏偉的夢想。然后我嘗試，正如你注意到的，然后我嘗試分解，但我嘗試分解它們。任何，你知道，擁有一個瘋狂的雄心勃勃的夢想很容易，但訣竅在于如何將其分解為可管理的、可實現的、有意義且有用的中間步驟。因此，虛擬細胞，我這樣稱呼模擬細胞的項目，你知道，我一直想做這件事，可能已經超過25年了。
我過去經常和保羅·納斯交談，他是我在生物學方面的一位導師。他負責，你知道，創立了克里克研究所，并在2001年獲得了諾貝爾獎。我們一直在談論這件事，你知道，在90年代之前。我過去每五年回來一次，就像，你需要什么來模擬細胞的完整內部結構，以便你可以在虛擬細胞上做實驗，以及那些實驗，你知道，在計算機上，并且這些預測對你來說是有用的，可以為你節省大量的濕實驗室時間，對吧？那將是夢想。也許你可以通過在計算機上完成大部分工作，在計算機上進行搜索，然后你在濕實驗室中進行驗證步驟，從而將實驗速度提高100倍。那會是，那是夢想。
所以，但也許現在終于，所以我試圖構建這些組件，AlphaFold只是其中之一，它最終能讓你模擬完整的互動，一個細胞的完整模擬。我可能會從酵母細胞開始，部分原因是保羅·納斯研究過酵母細胞，因為酵母細胞就像一個完整的單細胞生物，對吧？所以它是最簡單的單細胞生物。所以它不僅僅是一個細胞，它是一個完整的生物體。而且人們對酵母的了解非常透徹。所以這將是進行完整模擬模型的一個好選擇。
現在，AlphaFold是解決蛋白質靜態圖像的方案，即3D結構蛋白看起來是什么樣子的，它是靜態圖像。但是我們知道生物學中，所有有趣的事情都發生在動態、互動中。而AlphaFold3是朝著模擬這些互動邁出的第一步。所以首先，成對地，你知道，蛋白質與蛋白質，蛋白質與RNA和DNA。但在那之后的下一步可能是建模整個通路，可能像參與癌癥的TOR通路或類似的東西。然后最終你也許能夠建模，你知道，整個細胞。
Lex: 此外，這里還有另一個復雜性，細胞中的物質發生在不同的時間尺度上。那很棘手嗎？這就像，你知道，蛋白質折疊是，你知道，超級快。我不了解所有的生物機制，但其中一些需要很長時間。是的。所以這是一個層次。因此，交互的層次具有不同的時間尺度，你必須能夠對其進行建模。
德米斯: 所以那會很難。所以你可能需要幾個模擬系統，它們可以在這些不同的時間動態中相互作用，或者至少可能像一個分層系統。所以你可以上下跳躍于不同的時間階段。
Lex: 所以你能否避免，我的意思是，這里的一個挑戰是不避免模擬，例如，任何這些的量子力學方面，對吧？你想要避免過度建模。你可以跳過，直接建模真正高層次的東西，從而讓你對即將發生的事情有一個非常好的估計。
德米斯: 是的，所以你在建模任何自然系統時必須做出決定，你要建模的粒度截止水平是什么，然后它捕獲你感興趣的動態。所以可能對于一個細胞來說，我希望那會是蛋白質水平，而且不必下降到原子水平。所以，你知道，當然，這就是AlphaFold大顯身手的地方。所以這將是基礎，然后你將構建這些更高層次的模擬，將這些作為構建塊，然后你得到涌現行為。
Lex: 提前為接下來可能很傻的問題道歉，但你認為我們能夠模擬一個關于生命起源的模型嗎？所以能夠模擬第一個，從非生物有機體到生物有機體的誕生。
德米斯: 我認為這是其中一個，當然，是最深刻和最引人入勝的問題之一。我喜歡生物學的那個領域。你知道，有些人像，尼克·萊恩寫了一本很棒的書，他是這個領域的頂級專家之一，書名叫《進化的10大偉大發明》。我覺得這本書太棒了，它也說明了偉大的過濾器可能是什么，但是，你知道，它們是在我們之前還是在我們之后？如果你讀過那本書，我認為它們很可能存在于過去，書中講述了生命出現的可能性有多小，然后從單細胞到多細胞似乎是一個難以置信的巨大飛躍，我認為這在地球上花費了大約10億年的時間才完成，對吧？所以它告訴你這有多么困難，對吧？
Lex: 細菌在很長一段時間里都非常快樂。
德米斯: 在它們以某種方式捕獲線粒體之前，經歷了非常長的一段時間，對吧？我看不出為什么不，為什么人工智能不能在這方面提供幫助，某種模擬。再次強調，這又是一個在組合空間中進行搜索的過程。這是所有的，你知道的，化學湯，你開始的地方，原始湯，你知道的，也許它在地球上，在這些熱噴口附近。這是是一些初始條件。你能產生一些看起來像細胞的東西嗎？所以或許虛擬細胞項目之后的下一個階段是，好吧，你實際上如何能讓類似的東西從化學湯中涌現出來？
Lex: 嗯，如果生命起源有第37步就好了。我認為這是那種偉大的謎團之一。我認為最終我們會弄清楚它們是連續的，不存在非生命和生命之間的界限。但如果我們能使之嚴謹。是的。從大爆炸到今天，整個過程都是一樣的。如果我們能夠打破我們頭腦中構建的從非生命到生命的實際起源的壁壘，并且它不是一條線，而是一個連接物理、化學和生物學的連續體。是的，沒有界限。
德米斯: 我的意思是，這就是我一生致力于人工智能和通用人工智能的全部原因，因為我認為它可以成為幫助我們回答這類問題的終極工具。我不太明白為什么普通人不會更擔心這些事情。例如，我們怎么能沒有對生命、非生命和無生命、時間的本質，更不用說意識、引力以及所有這些事物有一個好的定義呢。還有，量子力學的怪異之處。對我來說，我一直有這種在我面前尖叫的感覺。整個，我需要那個，它變得越來越響。你知道，就像，怎么回事，這里發生了什么？我指的是最深刻的意義，比如現實的本質，這必須是能夠回答所有這些問題的終極問題。如果你仔細想想，這有點瘋狂。我們可以互相凝視，也可以一直觀察所有這些生物，我們可以在顯微鏡下檢查它們，幾乎可以將它們分解到原子層面。然而，我們仍然無法用一種簡單的方式清楚地回答這個問題：你如何定義生命？這有點令人驚奇。
Lex: 對于生命，你可以通過某種方式避免思考它，但就像意識一樣，我們顯然有這種主觀的意識體驗。就像我們處于自己世界的中心，并且感覺像是某種東西。然后，你怎能不對這一切的神秘感到驚呼呢？我的意思是，但實際上，人類一直在與周圍世界的神秘作斗爭，已經很久很久了，存在著許多謎團。比如太陽和雨是怎么回事？這是怎么回事？比如去年我們有很多雨，而今年我們沒有雨。我們究竟做錯了什么？人類已經問這個問題很久了。
德米斯: 所以我們相當，我想我們已經發展出許多機制來應對這些，這些我們無法完全理解的深刻奧秘，我們能看到，但我們無法完全理解。我們必須繼續日常生活。我們讓自己保持忙碌，對吧？在某種程度上，我們是否讓自己分心了？
Lex: 我的意思是，天氣是人類歷史上最重要的問題之一。我們仍然，天氣是首選的閑聊話題。是的，尤其是在英國。然后就是，眾所周知，這是一個極其難以建模的系統。即使是那個系統，谷歌DeepMind也取得了進展。
德米斯: 是的，我們有。我們已經創造了世界上最好的天氣預測系統，它們比通常在大型超級計算機上計算的傳統流體動力學系統更好，后者需要幾天時間來計算。我們已經設法用神經網絡系統，用我們的WeatherNet系統，模擬了許多天氣動態。而且，有趣的是，即使這些動態非常復雜，在某些情況下幾乎接近混沌系統，但它們仍然可以被建模。很多有趣的方面都可以通過這些神經網絡系統來建模，包括最近我們做的，關于颶風部分可能走向的颶風預測，當然，這對世界來說非常有用，非常重要。而且非常及時、非常快速以及非常準確地做到這一點至關重要。我認為這是一個非常有前景的方向，可以用來模擬，這樣你就可以對非常復雜的現實世界系統進行前瞻性預測和模擬。