深度學習三巨頭之一 Yann LeCun：大語言模型帶不來 AGI

(相關資料圖)

品玩 6 月 9 日訊，北京智源大會是智源研究院舉辦的年度國際性人工智能的高端學術交流活動。今年是第五屆。大會以國際性、權威性、專業性和前瞻性為特色，定位于內行的 AI 盛會。Yann LeCun 、Geoffrey Hinton 以及 Yoshua Bengio 三位科學家并稱為深度學習三巨頭。而三巨頭之中，LeCun 對于 AI 發展所持的態度是最為樂觀的。關于 AI 接下來該如何發展，在今天上午于北京舉行的 2023 智源人工智能大會上，他發表了名為《走向能夠學習、推理和規劃的大模型》的演講，表達了系統的思考。

LeCun 核心觀點精彩摘要如下：

AI 的能力距離人類與動物的能力，還有差距——差距主要體現在邏輯推理和規劃，大模型目前只能「本能反應」。

什么是自監督學習？自監督學習是捕捉輸入中的依賴關系。訓練系統會捕捉我們看到的部分和我們尚未看到的部分之間的依賴關系。

目前的大模型如果訓練在一萬億個 token 或兩萬億個 token 的數據上，它們的性能是驚人的。我們很容易被它的流暢性所迷惑。但最終，它們會犯很愚蠢的錯誤。它們會犯事實錯誤、邏輯錯誤、不一致性，它們的推理能力有限，會產生有害內容。由此大模型需要被重新訓練。

如何讓 AI 能夠像人類一樣能真正規劃？可以參考人類和動物是如何快速學習的——通過觀察和體驗世界。

Lecun 認為，未來 AI 的發展面臨三大挑戰，并由此提出「世界模型（World Model）」。