全球新動態：智源大會最應該知道的四位大佬和他們的 AI 金句

其實一個人是不可能 " 完整 " 參加智源大會的，因為它兩天會期從早到晚都安排了幾乎在同時進行的諸多議程。不包括開幕式和線上的特邀報告，僅大的分論壇就有 13 個之多，不僅涵蓋了目前最火熱的大模型領域，智源堅持的開源理念，以及始終強調的具身智能和類腦智能并行路線也都被囊括其中。下面是品玩篩選的其中最值得關注的觀點和金句，以及我們的評論分析。

(相關資料圖)

Yann LeCun 楊立昆

How is it that we have systems that are fluent, that can pass the law exams or medical exams, but we don"t have domestic robots that can clear up the dinner table and fill up the dishwasher, right? This is something that any 10-year-old can learn in minutes, and we still don"t have machines that can come anywhere close to doing this. So we"re obviously missing something extremely major.

為什么我們有流暢的系統可以通過法律或醫學考試，但沒有可以清理餐桌和裝滿洗碗機的家用機器人？ 這是任何 10 歲孩子都可以在幾分鐘內學會的東西，而我們仍然沒有可以接近做到這一點的機器。我們顯然遺漏了一些非常重要的東西。

楊立昆是深度學習三巨頭之一，也是 Meta 首席 AI 科學家，相對于同儕，楊立昆對 AI 的發展態度堪稱樂觀，但這種樂觀是基于他對目前主流路線的否定——楊立昆認為自監督的語言模型沒有辦法習得真實世界的知識，而隨著模型規模的擴大，出現謬誤（也就是機器幻覺）的幾率也會越來越高。

楊立昆的演講發生在智源大會開幕式，彼時他人正在法國，而時間是凌晨 4 點。楊立昆在演講中宣稱，如果想要讓機器擁有更高級別的人工智能，那么它應該學習人類認識世界的方式——學習推理、學習將復雜任務分解成簡單任務。

將上述的理念和成本的因素考慮進去后，楊立昆提出所謂 " 世界模型 "，盡管尚無具體的實現步驟，但楊立昆認為 " 世界模型 " 將很好的避免生成式模型帶來的缺陷。

楊立昆同時也認為強大人工智能的威脅可以通過技術手段輕松遏制，這與他回擊馬斯克有關人工智能威脅的論調相一致。

Max Tegmark

I think Yann LeCun was teasing me a little bit. He called me a doomer. Look at me – I ’ m pretty happy and cheerful – more optimistic than Yann LeCun about our ability to understand future AI systems. …… I think if we go full steam ahead and give ever more control away from humans to machines that we don ’ t understand, that will end very badly. But we don ’ t have to do that. …… we can actually make sure that all this ever more powerful intelligence works for us and use that to create an even more inspiring future than science fiction writers used to dream of.

我覺得楊立昆在逗我玩。 他叫我末日使者。 看看我——我非常高興和開朗——比楊立昆更樂觀地認為我們有能力理解未來的人工智能系統。 ……我認為，如果我們全力以赴，將更多的控制權從人類手中交給我們不了解的機器，那將導致非常糟糕的結果。 但我們不必那樣做。 ...... 我們實際上可以確保所有這些強大的智能為我們服務，并利用它來創造一個比科幻作家過去夢想更鼓舞人心的未來。

Max Tegmark 是那封呼吁暫停 AI 開發六個月公開信的發起人——這可能是他近期最著名的一個 title，實際上他還是著名的物理學家，未來生命研究所的創始人。在智源大會上 Max Tegmark 的演講題目是《將 AI 變得可控》，這看上去與他在今年初的呼吁格格不入，而實際上 Max Tegmark 在大會上解釋了他的論點：AI 巨大的潛力意味著人們應該更謹慎和負責任的思考它究竟意味著什么，暫停研究六個月的目的并不是試圖拖延或阻止 AI 的快速發展。

Max Tegmark 在隨后與張亞勤的一對一談話中對中國在 AI 監管與治理領域的水平給予了很高評價，在他的心目中，中國位居第一，歐洲第二，美國則排名第三。

Sam Altman

The book of the Tao reminds us that the journey of a thousand miles begins with a simple step. We think the most constructive first step to take is with the international scientific and technological community.

《道德經》提醒我們，千里之行，始于足下。 我們認為（AI 安全與對齊）最有建設性的第一步是與國際科技界合作。

Sam Altman 作為 OpenAI 聯合創始人、CEO 已經不需要更多介紹了，品玩也第一時間發布了他在智源大會上演講的全文。

在一對一訪問環節，Sam Altman 回應了智源研究院理事長張宏江有關通用人工智能的問題。Sam Altman 謹慎地表示，盡管無法做出任何實質性的預測，但他認為十年內人類將擁有強大的人工智能系統（AI System）。

另一個大家普遍關心的問題是開源。Sam Altman 其實已經在許多場合回應過這個問題，他再次表示 OpenAI 沒有相關的新的有關開源的時間表，盡管他承認在有關 AI 安全的問題上，開源模型具有優勢，但 Sam Altman 強調開源所有東西可能并不是一條（促進 AI 發展的）最佳路線。

Geoffrey Hinton

One advantage we have, one fairly small advantage, is that these things didn"t evolve. We built them. And it may be that because they didn"t evolve, they don"t have the competitive aggressive goals that hominids have. …… And maybe we can give them ethical principles. But at present, I"m just nervous, because I don"t know any examples of more intelligent things being controlled by less intelligent things, when the intelligence gap is big. And the example I like to think about is suppose frogs had invented people. Who do you think would be in charge now, the frogs or the people?

我們（人類）有一個微弱的優勢 AI 沒有，那就是進化。我們創造了它們，這或許意味著 AI 沒有原始人具有的那種競爭性和侵略性。我們或許可以給它們賦予道德原則。

但現在，我真正緊張了，我還想象不到更智能的事物，被一些反倒沒那么智能的事物所控制的例子，（尤其）當智能的鴻溝非常巨大的時候。

一個例子是，假設青蛙發明了人類，那現在是誰說了算呢，青蛙還是人？

Geoffrey Hinton 現在的頭銜已經可以被稱為 AI 教父了，據說之前智源大會就曾邀請過他參加，但在即將開幕時 Geoffrey Hinton 發現了自己演講內容有 bug 因而取消。

最近 Geoffrey Hinton 最引人注意的新聞是辭去了他在谷歌的職務，因為他對目前人工智能驚人的發展速度感到了恐慌——本次智源大會上的演講，Geoffrey Hinton 延續了這個論調。在他看來超級智能到來的時間將比他本人預料的早得多，而他本人甚至看不出要如何防止 AI 失控的狀況發生，他在演講中公然宣稱把希望寄托在了年輕一代身上。