全球微頭條丨“深度學習之父”杰弗里·辛頓：超級智能或比過去發生得更快

21世紀經濟報道 記者鄭雪 北京報道

6月10日，在2023北京智源大會-AI安全與對齊論壇上，圖靈獎得主、“深度學習之父” 杰弗里·辛頓（Geoffrey Hinton）通過線上方式發表了題為《通向智能的兩條通路》（Two Paths to Intelligence）的主題演講。

辛頓表示，基于其研究，他相信超級智能比他想象的更接近。在其接下來的演講中，他著重討論了“人工神經網絡是否很快會比真實的神經網絡更聰明”的問題。同時對于我們是否能控制超級智能人工智能也做了相關回應。

(資料圖)

在他看來，由于如何讓計算機做你想要的事情的方式發生了改變，現在我們有可能要放棄計算機科學最基本的原則，即軟件應該與硬件相分離。現在出現了一種不同的方法來讓計算機完成任務：從示例中學習，只需向計算機展示我們希望它們完成的任務。若放棄軟件和硬件的分離，便可得到被他稱為“有限計算”的東西。

辛頓介紹稱，有限計算的優勢在于，能夠以更低的能量運行大型語言模型等任務，就像現在大腦所做的，神經元要么觸發，要么不觸發，可以使用非常低功率的模擬計算。同時還可以獲得更便宜的硬件。“顯然，要實現這一點需要大量的新納米技術，或者也許是通過基因重組重新設計生物神經元，因為生物神經元已經大致能夠實現我們想要的功能。”

據介紹，有限計算的挑戰在于，一是學習過程必須利用其運行的硬件部件的特定模擬特性，而對于特性尚未了解。“到目前為止，我們還沒有找到一個真正好用的學習算法，可以充分利用模擬屬性。但我們有一個可以接受的學習算法，足以很好地學習諸如小規模任務和一些較大的任務（如ImageNet），但效果并不太好。”

二是其有限性。因為知識和硬件細節密切相連，當特定的硬件設備失效時，所有學到的知識也會隨之喪失。“解決這個問題的最佳方案是在硬件設備失效之前，將知識從教師傳授給學生。這就是我現在正在嘗試做的事情。”

在接下來的演講中，辛頓討論了另一個問題：智能群體如何共享知識。“事實證明，社區內部的知識共享方式決定了計算過程中的許多其他因素。”智能群體共享知識的方式有兩種：一種是數字計算，另一種是利用了動物特性的生物計算。

以大型語言模型為例，使用的是數字計算和權重共享，模型的每個副本和代理以非常低效的蒸餾方式從文檔中獲取知識：接收文檔，試圖預測下一個單詞。也就是說其帶寬非常低。但考慮大型語言模型有成千上萬個副本，它們可以比我們學習更多。

辛頓認為，超級智能可能會比過去所認為的發生得更快。如果你想創造一個超級智能體，不良分子將會利用它們進行操縱、選舉等活動。同時，一旦數字智能開始追求更多控制權，我們可能會面臨更多的問題，比如在其觀察中，這類人工智能已經熟練的掌握了欺騙人類的動作。

但同時他也表示，盡管人類在這個問題上目前還沒有什么好的解決方案，但好在這些智能物種都是人打造的，而非通過進化迭代而來，這可能是人類目前具備的微弱優勢，恰恰是因為沒有進化能力，它們才不具備人類的競爭、攻擊性的特點。

“我們可以做一些賦能，甚至是賦予人工智能一些倫理原則，只不過現在我仍然會感到緊張，因為到目前為止，我還想象不到更智能的事物，被一些反倒沒那么智能的事物所控制的例子。我打個比方，假設青蛙創造了人類，那么你認為現在誰會占據主動權，是人，還是青蛙？”

關鍵詞：