領導力與創新：重塑谷歌AI

Lex: 所以在商業和領導力方面，最令人難以置信的故事之一是谷歌過去一年所做的事情。所以我認為可以公平地說，一年前，谷歌在LLM產品方面因Gemini 1.5而失利，而現在憑借Gemini 2.5而獲勝，你掌舵并領導了這項工作。在一年之內，從所謂的“失敗”到所謂的“獲勝”，需要付出什么？

德米斯: 是的，首先，我們的團隊絕對是令人難以置信的，你知道，由科里、杰夫·迪恩和奧里爾以及我們在 Gemini 上的出色團隊領導。絕對是世界一流的。所以，沒有最優秀的人才，你做不到。當然，你知道，我們也有大量的強大計算能力，但更重要的是我們創造的研究文化，對吧？基本上是將谷歌的不同團隊聚集在一起，你知道，有世界一流的谷歌大腦團隊，然后是之前的 DeepMind，匯集所有最優秀的人才和最佳的想法，齊心協力打造我們所能做到的最偉大的系統。

這很困難，但我們都非常有競爭力，而且，你知道，我們熱愛研究。做這件事太有趣了。而且，你知道，很高興看到我們的發展軌跡。這并非理所當然，但我們對我們目前所處的位置以及進步的速度感到非常滿意，這是最重要的事情。所以，如果你看看我們從兩年前到現在，再到一年前到現在的發展歷程，你知道，我認為我們的，我們稱之為“沿著持續不斷的進步方向持續交付”的做法非常成功。而且，你知道，整個領域，整個 AI 領域，競爭異常激烈，世界上一些最偉大的企業家、領導者和公司都在參與競爭，因為每個人都意識到 AI 有多么重要。而且看到這種進步，我們感到非常高興。

Lex: 你知道，谷歌是一家龐大的公司。你能談談在這種情況下自然發生的事情嗎，比如出現的官僚主義。比如，你想要小心，你知道，就像那種自然的，會有會議，會有經理，像這樣，從領導力的角度來看，突破這些挑戰是什么，以便像你說的，交付，就像過去一年交付的與Gemini相關的產品數量簡直是瘋了。

德米斯: 對，確實是。是的，沒錯。這就是堅持不懈的樣子。我認為這是一個問題，就像任何大公司一樣，最終都會有很多管理層級之類的事情，這在某種程度上是其運作方式的本質。但我仍然以創業公司的狀態運營，我一直以老DeepMind作為一家創業公司來運營。規模很大，但仍然是一家創業公司。這也是我們今天仍然像對待谷歌DeepMind那樣行事的方式，以果斷的決心和從最佳小型組織中獲得的活力行事。

我們試圖兼得兩全，既擁有數十億用戶、界面和令人難以置信的產品，我們可以用人工智能和我們的研究來增強它們。這太棒了。而且你知道，世界上很少有地方能讓你一方面進行令人難以置信的世界級研究，另一方面又能將其應用并改善數十億人的生活。這真是一個了不起的結合。我們不斷地奮斗并削減官僚主義，以允許研究文化和堅持不懈的交付文化蓬勃發展。我認為我們已經取得了相當好的平衡，同時對此負責，你知道，作為一個大公司，你必須這樣做，而且擁有大量的、你知道的、巨大的產品界面。

Lex: 所以你說的關于十億級用戶界面的事情很有趣，我和一位名叫歐文·芬克爾的家伙聊過，他是大英博物館一位杰出的家伙。他是楔形文字的世界級專家，楔形文字是古代寫在泥板上的文字。他不了解ChatGPT或Gemini。他甚至不認識任何人工智能，但他第一次接觸到人工智能是在谷歌上的AI模式。是的。他說，這就是你所說的這種人工智能模式嗎？然后，你知道，這只是提醒我們，世界上還有很大一部分人并不了解人工智能這件事。

德米斯: 是的，我知道這很滑稽。因為如果你生活在X和Twitter上，我的意思是，至少在我的訂閱源里，全部都是人工智能。而且在某些地方，你知道，在硅谷和某些區域，每個人都在思考人工智能。但是很多普通人還沒有接觸過它。

Lex: 但是他們的第一次互動肩負著重大的責任。是的。廣闊的印度農村或世界任何地方的規模。對，對。

德米斯: 我們希望它盡可能好。在很多情況下，它只是在后臺驅動，使地圖或搜索等功能運行得更好。理想情況下，對很多人來說，這應該是無縫銜接的。這只是一種新技術，它讓他們的生活更有成效，并幫助他們。

Lex: Gemini產品和工程團隊中的很多人都對你的另一個維度評價很高，這幾乎出乎我的意料。因為我有點把你當作深奧的科學家，關心這些重大的研究科學問題。但他們也說你是個很棒的產品人，比如如何創造一款很多人會使用并樂于使用的產品。那么你能談談創造一款很多人會樂于使用的基于人工智能的產品需要什么嗎？

德米斯: 是的，嗯，我的意思是，這又回到了我游戲設計的日子，那時我過去為數百萬游戲玩家設計游戲。人們會忘記這一點。我在產品中使用尖端技術方面有經驗。這就是九十年代游戲的樣子。所以我真的很喜歡尖端研究與產品應用以及為全新體驗提供支持的結合。因此，我認為這實際上是同一種技能，即設身處地地想象使用它的感受，并且如先前所說，擁有良好的品味。我認為，在科學中有用的東西，在產品設計中也同樣有用。

我一直是一個跨領域的人。所以我真的看不到藝術和科學、產品和研究之間的界限。對我來說，這是一個連續統一體。我的意思是，我只從事尖端產品的研發，我喜歡這樣做。我需要引擎蓋下的尖端技術。如果它們只是普通的常規產品，我就不會對它們感到興奮。因此，這需要發明創造能力。

人機交互的未來：從聊天框到心靈感應

Lex: 當您在LLM方面與Gemini互動時，您具體學到了一些什么？比如，您覺得布局、界面、或者延遲之間的權衡，例如如何呈現給用戶，等待多久，以及如何展示這種等待，或者推理能力。這里有一些有趣的東西，因為就像你說的，它非常前沿。我們不知道如何正確地呈現它。那么你學到了一些具體的東西嗎？

德米斯: 我的意思是，這是一個快速發展的領域。我們一直在評估這些，但我們目前的觀點是，你想要不斷地簡化事物，無論是界面還是你在模型之上構建的東西。你想擺脫模型的束縛。模型列車正沿著軌道駛來，而且正在以令人難以置信的速度改進。我們之前談到的這種 relentless 進步，你看看 2.5 版本與 1.5 版本，這簡直是一個巨大的改進。而且我們期望未來版本也能如此。因此，這些模型正變得更加強大。

所以，在當今世界，關于AI優先產品的設計空間，有趣之處在于，你所設計的不是針對該事物今天能做什么，或者今天的技術能做什么，而是針對一年后。所以你實際上必須是一個非常懂技術的產品人員，因為你必須對以下情況有很好的直覺和感覺：好的，我現在夢想的東西今天無法實現，但研究路線圖是否按計劃在六個月或一年內基本實現這一目標？因此，你必須掌握這項高度變化的技術的發展方向，以及不斷涌現的新功能，你以前沒有意識到這些新功能，但它們可以使深度研究發揮作用，或者現在我們有了視頻生成，我們該如何利用它？

這個多模態的東西，我有一個問題是，它真的會是我們今天擁有的當前用戶界面嗎？一旦你考慮到這些超級多模態系統，這些文本框聊天似乎不太可能，它不應該更像是《少數派報告》中的東西，你在某種協作方式中與之產生共鳴，對嗎？今天看來非常受限制。我認為我們回顧今天的界面、產品和系統，可能會覺得它們在短短幾年內就相當過時了。所以我認為在產品方面以及研究方面實際上都有很大的創新空間。

Lex: 然后我們在私下討論這個鍵盤的問題，未決的問題是，我們會在何時、以何種程度轉向以音頻作為與周圍機器交互的主要方式，而不是打字？

德米斯: 是的，我的意思是，即使你打字速度很快，打字也是一種帶寬非常低的交互方式。我認為我們將不得不開始利用其他設備，無論是智能眼鏡、音頻、耳塞，最終可能是一些神經設備，以便我們可以將輸入和輸出帶寬提高到現在的100倍。

Lex: 我認為被低估的藝術形式是界面設計。但我認為，如果沒有合適的界面，你就無法釋放一個系統的智能力量。界面實際上是你釋放其力量的方式。如何做到這一點是一個非常有趣的問題。你會認為不礙事才是真正的藝術形式。

德米斯: 是的，這有點像我想史蒂夫·喬布斯總是談論的那樣，對吧？我們想要的是簡潔、美觀和優雅，對吧？而且我們還沒到那一步，依我之見，還沒人達到那一步。這就是我希望我們達到的目標。再次，這有點像再次出發，對吧？作為一款游戲，最優雅、最精美的游戲。你能做出一個像那樣的精美界面嗎？實際上，我認為我們將進入一個由人工智能生成的界面時代，這些界面可能是為你量身定制的。因此，它符合你的方式、你的審美、你的感覺以及你的大腦運作方式。人工智能會根據任務來生成這些，你知道，感覺這可能就是我們將要發展的方向。

Lex: 是的，因為有些人是高級用戶，他們希望屏幕上顯示每一個參數，一切都基于此，比如我，使用基于鍵盤的導航。我希望一切都有快捷方式。而且有些人喜歡極簡主義。只是隱藏所有這些復雜性，是的，沒錯。嗯，我很高興你也有史蒂夫·喬布斯模式，這太棒了。愛因斯坦模式，史蒂夫·喬布斯模式。

AGI競賽與全球合作

Lex: 好了，讓我試著引誘你回答一個問題。Gemini 3 什么時候發布？它是在 DTS 6 之前還是之后？世界都在等待這兩者。從 2.5 到 3.0 需要什么？因為似乎已經發布了很多 2.5 的版本，它們在性能上已經有了飛躍。那么，升級到新版本到底意味著什么呢？是關于性能嗎？還是關于一種完全不同的體驗？

德米斯: 是的，嗯，所以我們不同的版本號運作方式是，我們，你知道，我們嘗試收集，所以可能需要，你知道，大約6個月或類似的時間來完成一次新的完整運行和新版本的完整產品化。在此期間，會出現許多新的有趣的研究迭代和想法。我們將它們收集在一起，你知道，你可以想象過去6個月在架構方面產生的所有有趣的想法。也許是在數據方面，就像許多不同的可能性。我們收集這些，將其打包在一起，測試哪些可能對下一次迭代有用，然后將所有這些捆綁在一起。然后我們開始新的，你知道，巨大的英雄訓練運行，對吧？然后當然會對其進行監控。

然后在預訓練結束時，還有所有的后訓練，有很多不同的方法可以做到這一點，不同的修補方法。所以那里有一個完整的實驗階段，你也可以從中獲得很多收益。這就是你通常看到的版本號指的是基礎模型，預訓練模型的地方。然后是2.5的中間版本，你知道，以及不同的尺寸和不同的小補充，它們通常是補丁或后訓練的想法，可以在相同的基本架構上之后完成。當然，最重要的是，我們還有不同的尺寸，Pro和Flash以及Flashlight，它們通常是從最大的那些中提煉出來的，你知道，Flash模型來自Pro模型。這意味著如果我們是開發者，我們有一系列不同的選擇，你想優先考慮性能還是速度，對吧？還有成本。我們喜歡把這看作是帕累托前沿，你知道，一方面，Y軸是，你知道，像性能一樣，然后X軸是，你知道，成本或延遲和速度，基本上。我們有完全定義前沿的模型。所以無論你作為個人用戶或開發者想要什么樣的權衡，你都應該找到一個我們的模型來滿足這個約束。

Lex: 所以在轉移性改變的背后，有一場大型的英雄行動。是的。然后就是產品化過程中瘋狂的復雜性。然后是對沿著帕累托前沿不同規模的提煉。然后隨著你采取的每一步，你意識到可能會有一個很棒的產品。還有支線任務。

德米斯: 是的，完全正確。

Lex: 但是，而且你也不想接受太多的支線任務，因為那樣你就會有一百萬個版本的一百萬個產品。是的， .這非常不清楚，但你也會超級興奮，因為它超級酷。比如怎么會，你看VEO，非常酷。它如何融入更大的事物中？

德米斯: 沒錯，沒錯。然后你不斷地進行這個向上游收斂的過程，我們稱之為，你知道，來自產品表面的想法，或者來自訓練后，甚至更下游的想法，你將這些向上游輸送到核心模型訓練中，用于下一次運行，對吧？這樣，主模型，主要的 Gemini 軌道變得越來越通用。

Lex: 最終，你知道，通用人工智能。一次一次的英雄運行。

德米斯: 是的，沒錯。幾次英雄運行之后。

Lex: 是的。所以有時當你發布這些新版本，或者實際上是每個版本時，基準測試對于展示模型的性能是有益的還是適得其反的？

德米斯: 你需要它們。我敢打賭，重要的是你不要過度擬合它們。對吧？所以不應該有一個一勞永逸的結局。于是就有了LM競技場，或者過去被稱為Alemsis。那是其中之一，它以一種有機的方式成為了人們測試這些系統（至少是聊天機器人）的主要方式之一。顯然，有大量的學術基準，用于測試數學和編碼能力、通用語言能力、科學能力等等。然后我們有我們自己關心的內部基準。這是一種多目標，你知道的，優化問題，對吧？你不想只擅長一件事。我們正試圖構建在各個方面都表現良好的通用系統。

而且你試圖做出不會后悔的改進。比如你在編碼方面有所提高，但它不會降低你在其他領域的表現。對吧？這就是困難的部分，因為你當然可以投入更多的編碼數據，或者你可以投入更多的，我不知道，游戲數據，但這樣做會不會讓你的語言系統或翻譯系統以及你關心的其他方面變得更糟？所以你必須不斷地監控這套越來越龐大的基準測試。而且，當你把這些模型應用到產品中時，你也會關心直接的使用情況、直接的統計數據以及你從最終用戶那里獲得的信號，無論是程序員還是使用聊天界面的普通人。

Lex: 是的，因為最終你想衡量其有用性，但很難將其轉化為一個數字。對。這實際上是基于大量用戶的氛圍型基準測試，很難知道。對我來說，擁有一個更聰明的模型，但它只是某種基于氛圍的東西，這將是令人恐懼的。它不太管用。這太可怕了，而且你剛才說的一切，它必須在如此多的領域都既聰明又有用。所以你會非常興奮，因為它突然解決了你以前從未解決過的編程問題，但現在它卻寫出糟糕的詩歌之類的東西。我不知道，這是一種壓力，這種平衡太難把握了。而且因為你不能真正信任基準測試，所以你真的必須信任最終用戶。

德米斯: 然后，其他更深奧的東西也會發揮作用，比如，你知道的，系統的角色風格，你知道的，它是冗長的嗎？它是簡潔的嗎？它是幽默的嗎？你知道，不同的人喜歡不同的東西。所以，你知道，這非常有趣。這幾乎就像心理學研究或人格研究的前沿部分。你知道，我過去在我的博士研究中做過這個，比如五因素人格。我們實際上希望我們的系統是什么樣的？不同的人也會喜歡不同的東西。所以這些都是產品領域中一些新的問題，我認為以前從未真正被解決過，但我們現在將不得不迅速處理。

Lex: 我認為這是一個超級迷人的領域，發展事物的特性。這樣做，也如同在照鏡子觀己。我們喜歡哪些事物？因為提示詞工程允許你控制很多這些元素，但是產品能否讓你更容易地控制這些體驗的不同風味，以及你與之互動的不同角色？

德米斯: 是的，完全正確。

Lex: 那么谷歌DeepMind獲勝的概率是多少？

德米斯: 嗯，我不認為這是某種獲勝。我的意思是，考慮到我們正在構建的東西是如此重要和意義重大，我認為用“獲勝”來衡量是錯誤的方式。很有趣的是，我盡量不把它看作一場游戲或競賽，即使這在很大程度上是我的心態。在我看來，重要的是，我們所有人，那些處于領先地位的人，都有責任管理這項令人難以置信的技術，它既可以用于令人難以置信的善事，但也存在風險，為了人類的利益，安全地將其引入世界。那一直是我夢寐以求的，也是我們一直努力去做的。我希望最終社群，或許是國際社群，能夠團結起來，當越來越接近通用人工智能(AGI)時，人們會明顯地意識到這是必需的。

Lex: 我同意你的觀點。我認為你說得非常好。你曾說過你與其中一些實驗室的負責人交談甚歡，關系良好。隨著競爭的加劇，維持這些關系有多難？

德米斯: 到目前為止還算可以。我一直以善于合作為榮。我是一個具有合作精神的人。研究是一項合作的事業。科學是一項合作事業，對吧？如果你治愈了可怕的疾病，并且提出了一個令人難以置信的療法，那么最終一切都對人類有好處。這對人類來說是凈勝。能源也是如此，所有我感興趣的用人工智能幫助解決的問題。所以我只是希望這項技術存在于世上，并被用于正確的事情。以及由此帶來的好處，這種生產力上的好處應該被分享，以造福所有人。

所以我努力與所有領先實驗室的人保持良好的關系。他們中的許多人都有非常有趣的性格，正如你可能預料到的那樣。但是，是的，我與他們幾乎所有人都保持著良好的關系，我希望如此。而且我認為，當情況變得比現在更加嚴重時，保持這些溝通渠道將會非常重要。如果需要合作或協作，尤其是在安全等方面，這將有助于促進合作或協作。

Lex: 是的，我希望在一些風險較低的事情上能有一些合作。這樣做也可以作為一種維持友誼和關系的機制。所以舉例來說，我認為如果你和埃隆能在合作開發一個視頻游戲上有所合作，互聯網會很喜歡，諸如此類的事情。我認為這能促進良好關系下的友情。而且你們兩個都是真正的游戲玩家，所以創造一些東西會很有趣。

德米斯: 是的，那太棒了。我們過去也談論過這件事，這可能是我們可以做的一件很酷的事情。我同意你的看法，如果能有一些副業項目，從而讓人能夠專注于合作方面，那就太好了。這對雙方來說都是雙贏的。這也有助于建立那種協作能力。

Lex: 我將科學事業視為人類的那種副業項目。我認為谷歌DeepMind一直在大力推動這一點。我很希望看到其他實驗室做更多的科學研究，然后進行合作，因為在重大的科學問題上進行合作似乎更容易。

德米斯: 我同意，我很希望看到很多人，很多其他的實驗室談論科學，但我認為我們是唯一一個將其用于科學并做到這一點的。這就是為什么像AlphaFold這樣的項目對我來說如此重要。而且我認為我們的使命是展示如何以一種非常具體的方式，清晰地利用人工智能來造福人類。此外，我們還從AlphaFold中衍生出了像Isomorphic這樣的公司來進行藥物發現。目前進展順利，并且正在構建某種可以被認為是構建額外的AlphaFold類型系統，以進入化學領域，幫助加速藥物設計的東西。我認為我們需要展示的例子，以及社會需要理解的是，人工智能可以在哪些方面帶來巨大的好處。

人性的特殊性與意識之謎

Lex: 發自內心，感謝您以嚴謹、樂趣和謙遜的態度推動科學事業的發展，感謝所有的一切。我就是喜歡看到這種景象。還在討論P等于NP，我的意思是，這太不可思議了。所以我喜歡這樣。似乎一直存在一場人才爭奪戰。有些只是梗，我不知道。你怎么看待Meta用巨額薪水收購人才，以及這場人才爭奪戰愈演愈烈？我應該說，我認為很多人都將DeepMind視為一個進行前沿研究的絕佳場所，原因正如你所概述的那樣。比如，這里有充滿活力的科學文化。

德米斯: 是的，好吧，你看，當然，Meta現在正在采取一種策略。我認為，至少從我的角度來看，那些真正相信通用人工智能使命及其作用的人，并且理解由此產生的真正后果，無論是好的還是壞的，以及這種責任所包含的意義。我認為他們這樣做主要是為了像我一樣，站在研究的前沿。這樣他們就可以幫助影響研究的方向，并安全地將這項技術引入世界。而Meta目前并不在前沿。或許他們能設法重回前沿。從他們的角度來看，他們這樣做可能是合理的，因為他們落后了，需要做些什么。

但我認為還有比金錢更重要的東西。當然，必須按照市場價格支付員工工資，所有這些事情，而且還在持續上漲。但正如，我預料到這一點，因為越來越多的人終于意識到，公司領導者，我30多年來一直都知道的事情，那就是通用人工智能（AGI）可能是將要被發明的最重要的技術。所以從某種意義上說，這樣做是合理的。但我也認為存在一個更大的問題。我的意思是，現在人工智能領域的人們薪水非常高。我記得2010年我們剛起步的時候，有幾年我甚至沒給自己發工資，因為錢不夠。我們沒法籌集到任何資金。而現在，實習生的工資相當于我們最初種子輪融資的全部金額。所以這很有趣。我還記得那些日子，我過去不得不免費工作，甚至幾乎要自己掏錢去做實習，對吧？現在一切都反過來了，但這就是現狀。這是新的世界。

而且，我認為我們一直在討論像通用人工智能（AGI）之后會發生什么，以及能源系統得到解決等等。金錢又會意味著什么呢？所以我認為，你知道，在經濟方面，我們將會有更大的問題需要解決，以及在這種世界里經濟和公司如何運作？所以我認為，你知道，今天談論薪水之類的事情有點像是次要問題。

Lex: 是的，當你面對如此巨大的后果和巨大而引人入勝的科學問題時。

德米斯: 這可能只有幾年時間了，所以。

Lex: 所以從實際的、務實的角度來看，如果我們聚焦于工作，我們可以看看程序員，因為人工智能系統目前在編程方面做得非常出色，而且越來越出色。所以很多靠編程為生并熱愛編程的人擔心他們會失去工作。你認為他們應該有多擔心？以及以何種正確的方式來適應新的現實，并確保你作為人類在編程世界中生存和繁榮？

德米斯: 嗯，有趣的是，編程，再次，這與我們幾年前的想法相反，也許我們認為的一些更難的技能，由于各種原因，結果可能更容易。但是，你知道，編碼和數學，因為你可以創建大量的合成數據，并驗證這些數據是否正確。因此，由于這種性質，更容易制作諸如合成數據之類的事物來進行訓練。當然，這也是我們都感興趣的領域，因為作為程序員，它能幫助我們更快、更高效地工作。

所以我認為在下一個時代，比如未來的5到10年，我們會發現那些擁抱這些技術，并幾乎與它們融為一體的人，無論是在創意產業還是技術產業，都會變得具有超人的生產力，我認為。所以優秀的程序員將會變得更加優秀，甚至比他們今天還要優秀10倍。因為在那里，你將能夠利用他們的技能，最大限度地利用這些工具，最大限度地發揮它們的作用。所以我認為這就是我們將在下一個領域看到的情況。

所以這會引起相當大的變化，對吧？所以那即將到來。很多人會從中受益。所以我認為這方面的一個例子是，如果編程變得更容易，那么更多的創意人員就可以更容易地進行創作。但我認為，頂尖的程序員仍然會擁有巨大的優勢，例如在規范方面，回到規范架構應該是什么，問題應該是如何以一種有用的方式指導這些編碼助手，檢查他們生成的代碼是否良好。所以我認為在可預見的未來幾年里，還有很大的發展空間。

Lex: 所以我認為這里面有幾個有趣的事情。一是必須不斷地、持續地改進這些工具的使用。所以他們是在借助不斷改進的模型，而不是與它們競爭。但可悲的是，這就是地球上生命的本質。在某些前沿的編程領域可能存在巨大的價值，而在其他領域則價值較低。例如，前端網頁設計可能更容易，正如你提到的，通過人工智能系統生成。也許，例如，游戲引擎設計或類似的東西，或后端設計，或在高性能情況下指導系統，高性能編程類型的設計決策，這可能非常有價值。但這將改變人類最需要的領域，這對人們來說是可怕的調整。

德米斯: 我認為那是對的。任何時候，只要有大量的顛覆和變化，你知道，我們已經經歷過這種情況，不僅僅是這一次，我們在人類歷史上經歷過很多次，比如互聯網、移動設備，但在那之前是工業革命。這將是充滿變革的時代之一。我認為會出現我們今天甚至無法想象的新工作，就像互聯網創造的一樣。然后，那些擁有正確技能組合來駕馭這股浪潮的人將變得非常有價值，對吧，那些技能。但也許人們將不得不重新學習或稍微調整他們目前的技能。

這次更難應對的是，我認為我們將看到的影響可能相當于工業革命的10倍，但速度也快了10倍，對吧？所以不是100年，而是10年。這就會使它，你知道，就像影響和速度加起來是100倍。所以 我認為這會使社會更難應對。這里有很多需要思考的東西。我認為我們現在就需要討論這些。我鼓勵世界頂級的經濟學家和哲學家開始思考，社會將如何受到這方面的影響，以及我們應該怎么做，包括諸如普遍基本供應之類的措施，即把大部分提高的生產力分享和分配給社會，也許以服務和其他形式，如果你想要更多，你仍然可以去獲取一些非常稀有的技能等等，讓自己變得獨一無二。但會提供一種基本的供應。

Lex: 如果你把政府看作一種技術，那么就會出現一些有趣的問題，不僅僅是經濟方面，還有政治方面。你如何設計一個能夠應對快速變化的時代，從而代表不同群體的人們所感受到的不同痛苦的系統？你又該如何以一種能夠解決這些痛苦，并代表不同人群的希望、痛苦和恐懼，同時又不會導致分裂的方式重新分配資源？因為政客們通常非常擅長煽動分裂，并利用這一點來贏得選舉。另一種是定義“他者”，然后說“他者”是壞的。基于此，我認為這通常不利于利用快速變化的技術來幫助世界繁榮發展。所以如果我們將政治體系視為一種技術，我們也幾乎需要迅速改進我們的政治體系。

德米斯: 當然，我認為我們需要新的治理結構，可能還需要新的機構來幫助完成這種轉變。所以我認為政治哲學和政治學將是其中的關鍵。但我認為最重要的事情，首先是要創造更多的資源，對吧？然后是，所以這是最重要的事情，提高生產力，獲取更多資源，也許最終擺脫零和博弈的局面。那么第二個問題是如何使用這些資源以及分配這些資源。但是，是的，如果沒有首先擁有這種富足，你就無法做到這一點。

Lex: 你向我提到了本杰明·利貝圖的《狂人》這本書，一本關于你，首先是關于你的書，有一本關于你的傳記。奇怪，是的。不清楚，是的，當然。目前尚不清楚有多少是虛構，有多少是現實。但我認為約翰·馮·諾伊曼這個中心人物，我不得不說，是對瘋狂和天才的一種令人難忘且優美的探索。且讓我們說說發現的雙刃劍。

對于不了解的人，約翰·馮·諾伊曼是一位極具傳奇色彩的人物。他為量子力學做出了貢獻。他曾參與曼哈頓計劃。他被廣泛認為是現代計算機和人工智能之父，或是在此領域做出了開創性貢獻的人，等等。所以正如許多人所說，他是有史以來最聰明的人之一，這太令人著迷了。同樣令人著迷的是，作為一個見證了核科學和物理學演變成原子彈的人，因此他得以親眼目睹了想法變成對世界產生巨大影響的事物，他也預見到了計算領域也會發生同樣的事情。這就是這本書中，再次出現的，一些美好而又令人難忘的方面。然后向前邁進一步，看看這件事，至少從某種程度上來說，AlphaGo、AlphaZero的重大時刻，也許約翰·馮·諾伊曼的思想被帶入了現實。所以我想問題是，如果你現在能和約翰·馮·諾伊曼一起閑逛，你認為他會對正在發生的事情說些什么？

德米斯: 嗯，那將會是一次很棒的經歷。你知道，他是一個了不起的人。而且我也很喜歡他在普林斯頓高等研究院度過大量時間的方式，那是一個非常適合思考的特別的地方。他在眾多他幫助發明的事物中所展現出的博學令人驚嘆，當然，這包括所有現代計算機都基于的馮·諾伊曼架構。而且他有驚人的遠見。我想他會喜歡我們今天的成就，而且他會，我想他會非常喜歡AlphaGo，你知道，他還研究過博弈論。我認為他預見了很多關于學習機器系統將會發生的事情，這些系統是成長起來的，我認為他稱之為成長，而不是被編程出來的。我不確定他會有多驚訝，也許他甚至不會感到驚訝，因為這是我認為他在20世紀50年代就已經預見到的成果。我想知道他會給出什么建議。

Lex: 他有機會在曼哈頓計劃中親眼見證原子彈的建造。我相信那里有很多有趣的事情可能沒有被充分談論，也許是一些官僚主義方面，也許是政治家的影響，也許是沒有充分地拿起電話與那些被政治家稱為敵人的人交談。也許存在著某種深刻的智慧，而我們實際上可能已經從那個時代失去了。

德米斯: 是的，我確信有。我的意思是，我也讀過很多那個時代的書，編年史時代，也了解了一些參與其中的杰出人士，但我同意你的觀點。我認為也許需要更多的對話和理解。我希望我們能從那些時代中學習。我認為這里的區別在于人工智能有很多用途，它是一種多用途技術。顯然，我們正在努力做一些事情，比如解決所有疾病，幫助解決能源和稀缺問題，這些都是令人難以置信的事情。這就是我們所有人，包括我自己，在30多年前開始這段旅程的原因。但當然，也存在風險。而且可能馮·諾伊曼也預見到了這兩點，我猜是這樣。我認為他好像說過，我想他對他的妻子說過，電腦在世界上的影響會更大。正如我們剛才討論的，我認為這是正確的。我認為它至少會是工業革命的10倍。所以我認為他是對的。所以我想他會對我們現在的處境感到著迷，我猜想。

Lex: 我認為這本書的要點之一，也許你可以糾正我，是理性，正如書中所說，“理性的瘋狂夢想”，對于指導人類構建這些超級強大的技術是不夠的，還需要其他的東西。我的意思是，還有一種宗教成分。無論上帝，無論宗教給予什么，它都能在我們人類精神中喚起一些純粹、冷酷的理性所不能給予的東西。

德米斯: 我同意這一點。我認為我們需要用任何你想稱呼它的東西來對待它，精神層面或人文層面，不一定非得與宗教有關，對吧？但靈魂的這種概念，讓我們成為人的東西，我們擁有的這種火花，也許它與我們最終理解的意識有關。我認為這必須是努力的核心。而技術，我一直將技術視為賦能者，對吧？這些工具使我們能夠蓬勃發展，并更多地了解世界。

在這一點上，我有點贊同費曼的觀點，他過去總是說科學和藝術是伴侶，對吧？你可以從兩個方面理解它，一朵花的美麗，它是多么美麗，并且也可以理解為什么花的顏色會這樣進化，對吧？這只會讓它更美麗，花朵的內在美。我一直都是這樣看待它的。也許在文藝復興時期，當時的偉大發現者，像達·芬奇這樣的人，我不認為他看到了科學、藝術，甚至宗教之間的任何區別，對吧？一切都是，這只是作為人類的一部分，并受到我們周圍世界的啟發。這就是我試圖秉持的哲學。

我最喜歡的哲學家之一是斯賓諾莎。我認為他很好地結合了所有這些，即試圖理解宇宙和理解我們在宇宙中的位置的理念。那是他理解宗教的方式。我認為這非常美好。對我來說，所有這些事情都是相關的，相互關聯的，技術以及成為人類的意義。我認為非常重要的是，當我們沉浸在技術和研究中時，我們要記住這一點。我認為我看到的我們領域的許多研究人員都有些狹隘，只了解技術。我認為這也是為什么讓整個社會來辯論這個問題很重要。我非常支持人工智能峰會之類的活動，以及各國政府對它的理解。我認為聊天機器人時代和人工智能產品時代的一件好事是，普通人實際上可以感受到并與最前沿的人工智能互動，并親身體驗它。

Lex: 是的，因為他們迫使技術人員進行人際交流。是的，當然。這是其中充滿希望的一面。就像你說的，這是一種雙重用途技術，我們正通過關于人工智能的討論，強行將整個人類融入其中，因為最終人工智能、通用人工智能將被用于國家利用技術人員做的事情，也就是沖突等等。通過與人們交流，我們越多地將人類融入到這幅圖景中，我們就越能引導。

德米斯: 是的，能夠適應社會，你就能適應這些技術。就像我們過去對待我們發明的那些不可思議的技術一樣。

Lex: 你認為會發生類似于曼哈頓計劃的事情嗎？即這項技術的威力會不斷升級，各國仍然會以舊思維方式試圖將其用作武器技術，從而引發這種升級？

德米斯: 我希望不會。我認為那樣做會非常危險。而且我認為，你知道，也存在技術使用不當的問題。我希望我們最終能有更多，如果需要的話，能有更協作的東西，比如更像一個歐洲核子研究中心（CERN）的項目，你知道，專注于研究，世界上的頂尖人才聚集在一起，認真地完成最后的步驟，并確保在負責任地完成之后，再將其部署到世界各地。我們拭目以待。我的意思是，在當前的地緣政治氣候下，我認為很難看到合作，但情況可能會改變。而且我認為，至少在科學層面上，研究人員保持聯系，至少在這些議題上彼此保持密切聯系是很重要的。

Lex: 是的，我個人認為，在教育和移民方面，如果東西方的人們能互相流動，那將是很好的。我的意思是，這里面包含著家庭和人際關系的因素，人們只是相互融合。是的。這樣一來，這些聯系就會變得牢固，所以你就不能用這種老套的思維方式來分裂彼此。因此，由多元文化、多學科的研究團隊來研究科學問題，這就是希望。不要讓那些好戰的領導人分裂我們。我認為科學是最終極的美好連接者。

德米斯: 是的，我認為科學一直以來都是一項非常協作的努力。科學家們知道這也是一項集體努力，我們可以互相學習。所以，也許它可以成為促進一些合作的途徑。

Lex: 你的，這個問題很荒謬，你的“末日概率”（P-Doom）是多少？也就是人類文明自我毀滅的概率。

德米斯: 呃，聽著，我沒有“末日概率”這個數字。我沒有的原因是因為我認為那會暗示一種并不存在的精確程度。所以，我不知道人們是怎么得到他們的“末日概率”數字的。我認為這有點荒謬，因為我想說的是，它絕對不是零，而且可能不可忽略。因此，這本身就相當令人清醒。

而我的看法是，這件事具有巨大的不確定性，對吧？這些技術將能夠做什么，它們會以多快的速度起飛，它們的可控性如何。有些事情可能會變得，而且希望是，比我們想象的要容易得多，對吧？但也可能存在一些非常棘手的問題，比我們今天猜測的還要困難。我認為我們不能肯定地知道這一點。所以在充滿不確定性但雙方利害攸關的條件下。一方面，我們可以解決所有疾病、能源問題、稀缺問題，然后進行星際旅行，探索星辰的意識，實現人類的最大繁榮。另一方面是這種存在風險的末日情景。

鑒于圍繞它的不確定性和它的重要性，對我來說，唯一理性的明智方法是以謹慎的樂觀態度前進。因此，我們當然希望獲得好處，以及人工智能可以帶來的所有令人驚嘆的事物。而且事實上，如果考慮到我們面臨的其他挑戰，如氣候、老齡化、資源等等，如果我不知道像人工智能這樣的技術正在發展，我會非常擔心人類的未來，對吧？我們該如何解決所有其他問題呢？我認為這很困難。所以 我認為它可能會帶來驚人的積極轉變。但另一方面，我們也知道存在一些風險，但我們無法完全量化這些風險。因此，最好的方法是使用科學方法進行更多研究，嘗試更精確地定義這些風險，當然也要解決這些風險。我認為我們正在這樣做。我認為在這方面需要投入的精力可能要比現在多10倍，因為我們越來越接近通用人工智能（AGI）的臨界點。

Lex: 對你來說，主要的擔憂來源是什么？是人為造成的，還是人工智能，通用人工智能造成的？是的。人類濫用該技術，而不是通過你所說的機制（這很吸引人）——欺騙或諸如此類的東西——的AGI本身。是的。秘密地變得越來越好，然后逃脫。

德米斯: 我認為它們在不同的時間尺度上運作，并且同樣需要解決。所以就存在常見的，或者說各種各樣的，像不良行為者使用新技術，在這種情況下，是通用技術，并將其重新用于有害目的。這是一個巨大的風險。我認為這有很多復雜性，因為總的來說，我非常贊成開放科學和開源。事實上，為了科學界的利益，我們用所有的科學項目，比如AlphaFold以及所有這些東西，都這樣做了。但是，如何限制不良行為者（無論是個人還是流氓國家）訪問這些強大的系統，同時又能讓良好行為者訪問，以便最大限度地在其基礎上進行構建呢？這是一個相當棘手的問題，我還沒有聽到明確的解決方案。所以存在不良行為者使用案例問題。還有，顯然，隨著系統變得更加通用，更接近通用人工智能（AGI），以及更加自主，我們如何確保防護欄，以及它們堅持我們希望它們做的事情，并在我們的控制之下？

Lex: 是的，我傾向于，也許我的思維有限，更擔心人類，那些不良行為者。在這方面，部分問題在于，如何不將破壞性技術置于不良行為者之手？但另一方面，從地緣政治技術的角度來看，如何減少世界上的不良行為者數量？這也是一個有趣的人類問題。

德米斯: 是的，這是一個難題。我的意思是，看，我們或許也可以利用技術本身來幫助對一些不良行為者的用例進行早期預警，對吧？無論是生物、核武器或其他什么，人工智能都可能在這方面有所幫助，只要你使用的人工智能本身是可靠的，對吧？所以這是一個相互關聯的問題，這使得它非常棘手。再次，這可能需要在國際上達成一些協議，至少在中國和美國之間，就一些基本標準達成一致，對吧？

Lex: 我必須問你關于《瘋子》這本書的事。這里有一個，上帝之手時刻，李世乭的第78步棋，也許那是人類最后一次做出某種純粹的人類天才之舉，擊敗了AlphaGo，或者說，擊潰了它的算法。是的。很抱歉擬人化，但這是一個有趣的時刻，因為我認為在很多領域它會不斷發生。

德米斯: 是的，這是一個特殊的時刻，對李世乭來說非常棒。我認為在某種程度上，他們是在互相激勵。我們作為一個團隊，受到了李世乭的才華和高尚品格的鼓舞。然后也許他受到了AlphaGo所作所為的啟發，從而構想出這個令人難以置信的鼓舞人心的時刻。這一切都在關于它的紀錄片中得到了很好的捕捉。而且我認為這種情況會在許多領域持續下去，在這些領域里，至少在可預見的未來，人類會發揮他們的聰明才智，提出正確的問題，然后以某種方式利用這些工具來解決問題。

Lex: 是的，隨著人工智能變得越來越智能，我們可以問自己的一個有趣的問題是，是什么使人類變得特別？我覺得，也許我有些偏見，我們人類是非常特別的。我不知道這是否是我們的智力。可能是其他的東西，是理性瘋狂夢想之外的其他東西。

德米斯: 我想這就是我小時候，剛開始這段旅程時一直想象的，當然，我著迷于諸如意識之類的事情，做了神經科學博士來研究大腦是如何工作的，尤其是想象力和記憶。我專注于海馬體，這會很有趣。我一直認為最好的方法，當然，人們可以進行哲學思考，進行思想實驗，甚至可以像你在神經科學中對真實大腦所做的那樣進行實際實驗。但最終，我一直認為，構建人工智能，一種智能人造物，然后將其與人類思維進行比較，看看兩者之間的差異，將是揭示人類思維特殊之處的最佳方法，如果確實有什么特殊之處的話。而且我懷疑可能確實存在，但很難定義。我認為我們正在進行的這段旅程將幫助我們理解并定義這一點。

當碳基底質（我們）和硅基底質處理信息時，可能存在差異。我最喜歡的意識定義之一是，當我們處理信息時，信息所感覺到的方式。可能是。我的意思是，這不是一個非常有幫助的科學解釋，但我認為這是一個有趣的直覺性解釋。因此，在這段旅程中，我們正在進行的這段科學旅程將有助于揭開那個謎團。

Lex: 是的，我無法創造的，我就不理解。那是您非常敬佩的人，理查德·費曼，就像您提到的。您也追求維格納關于普遍性的夢想，他曾在受限領域看到這種普遍性，而且還在廣泛地、普遍地在數學等領域看到。您在許多方面都在努力推進，不是為了在最后惹麻煩，而是為了羅杰·彭羅斯。好的。那么，您認為意識，存在這個意識的難題，即信息是如何被感知的。首先，您認為意識是一種計算嗎？如果是，如果它是信息處理，就像您說的，一切都是，那么它是否可以被經典計算機建模？是的。或者它本質上是量子力學的？

德米斯: 聽著，彭羅斯是一位了不起的思想家，是現代最偉大的人物之一。我們已經就此進行了很多討論。當然，我們友好地持有不同意見，你知道，我覺得，我是說，他與許多優秀的神經科學家合作，看看他是否能找到大腦中量子力學行為的機制。據我所知，他們還沒有找到任何令人信服的東西。所以，我打賭這主要只是大腦中發生的經典計算，這表明所有現象都可以通過經典計算機建模或模仿。但我們會看到的，你知道，可能存在關于意識感覺，即感受質，這些哲學家爭論的、基質獨有的最終神秘事物。

當我們做像腦機接口這樣的事情，并將神經接口連接到人工智能系統時，我們甚至可能會開始理解，我認為我們最終可能會這樣做，也許是為了跟上人工智能系統的步伐，我們可能真的能夠親身感受到在硅上計算是什么感覺，對吧？所以，也許這會告訴我們。所以，我認為這將會很有趣。我曾經和已故的丹尼爾·丹尼特就我們為什么認為彼此是有意識的進行過辯論，好嗎？所以，這有兩個原因。一個是你表現出和我一樣的行為。所以，這是一件事。從行為上來說，如果你是我，你看起來就像一個有意識的生物。但經常被忽視的第二件事是，我們在相同的基質上運行。所以，如果你以相同的方式行事，并且我們在相同的基質上運行，那么最簡約的假設是你正在感受和我一樣的體驗。但是對于在硅上運行的AI，即使它表現出第一部分，即行為看起來像一個有意識的生物的行為，我們也無法依賴第二部分。它甚至可能會聲稱它是有意識的。但我們不會知道它實際上感覺如何。而且它可能無法知道我們的感受，至少在最初階段是這樣。也許當我們達到超級智能以及構建它的技術時，或許我們能夠彌合這一點。

Lex: 不，我的意思是，這是對激進同理心的一項巨大考驗，即對不同的基質產生共情。

德米斯: 對，完全正確。我們以前從未面對過這種情況。

Lex: 是的，所以也許通過腦機接口，能夠真正地體會到作為一臺計算機的感覺。

德米斯: 好吧，為了讓信息被計算，而不是在碳基系統上。

Lex: 我的意思是，這很深刻，我是說，有些人會用植物、其他生命形式來思考這個問題，它們是不同的。

德米斯: 是的，有可能，完全正確。

Lex: 相似的基質，但在進化樹上足夠遙遠，以至于需要激進的同理心，但要對計算機這樣做。

德米斯: 我的意思是，不，我們某種程度上，有這方面的動物研究，比如，當然，像虎鯨、海豚、狗和猴子這樣的高等動物，它們有一些，還有大象，它們肯定有一些意識方面的特征，即使它們在智商意義上可能不那么聰明。所以我們已經可以對此產生共情。也許有一天我們的一些系統，比如我們構建了一個叫做“海豚格瑪”（Dolphin Gemma）的東西，你知道，我們系統的一個版本是用海豚和鯨魚的聲音訓練的，也許在某個時候我們能夠構建一個解釋器或翻譯器。應該會很酷。

Lex: 是什么讓你對人類文明的未來充滿希望？

德米斯: 嗯，讓我充滿希望的是，我認為首先是我們幾乎無限的創造力。我認為我們中最優秀的人和最優秀的人類大腦是不可思議的。而且，你知道，我喜歡，你知道，認識和觀看任何在其領域達到頂峰的人，無論是體育、科學還是藝術，你知道，沒有什么比這更美妙的了，看到他們在自己的領域中處于心流狀態。我認為這是幾乎無限的。你知道，我們的大腦是通用系統，智能系統。所以 我認為我們用它們能做的事情幾乎是無限的。

還有另一件事是我們的極強適應性。我認為情況會好的，雖然會有很多變化，但看看我們現在，實際上我們還擁有狩獵采集者的思維。我們是如何，你知道，我們是如何適應現代世界的，對吧？乘坐飛機，制作播客，你知道，玩電腦游戲和虛擬模擬。我的意思是，考慮到我們的頭腦是為了在苔原上獵捕野牛而開發的，這已經令人震驚了。所以我認為這只是下一步。實際上，看看社會如何已經適應了我們今天擁有的這種令人震驚的AI技術，這很有趣。這有點像，哦，我和聊天機器人聊天，完全沒問題。

Lex: 而且很可能這個我正在參與的播客活動，會被AI完全取代。我非常容易被取代，并且我正在等待它發生。

德米斯: 不到你能做到的那種程度，Lex，我不這么認為。

Lex: 好的，謝謝你。這就是我們人類彼此所做的事情，我們互相贊美。好的，我非常感激我們人類擁有這種對好奇心、適應性的無限能力，就像你說的，還有同情心和愛的能力。

德米斯: 沒錯。所有這些屬于人類的東西。所有那些深刻的人性。

Lex: 嗯，這真是莫大的榮幸。德米斯，你是世界上真正特別的人之一。非常感謝你所做的一切，以及今天與我交談。

德米斯: 嗯，非常感謝你，Lex。