科普來(lái)了丨人工智能要“覺(jué)醒”了嗎

隨著基于大語(yǔ)言模型 GPT-3.5 的 ChatGPT 公開(kāi)（現(xiàn)在又升級(jí)到了 GPT-4），人們發(fā)現(xiàn)，人工智能在幾乎所有對(duì)話中都顯得 " 游刃有余 " 了。雖然 ChatGPT 會(huì)非常精確的回答，自己只是人工智能，但是它的回答在一些方面已經(jīng)接近真人，代碼能力、翻譯能力甚至超過(guò)沒(méi)有受過(guò)訓(xùn)練的人，反而是這些 " 非人 " 的能力，提醒我們它不是人。人們不禁要問(wèn)，這類(lèi)大語(yǔ)言模型的人工智能，是否已經(jīng)有了一定程度的意識(shí)？如果現(xiàn)在還沒(méi)有，那未來(lái)會(huì)不會(huì)有呢？

什么是 " 意識(shí) "？

首先，我們要明確，即便是科學(xué)領(lǐng)域，大家對(duì)意識(shí)是什么，以及如何才能產(chǎn)生意識(shí)，也有著完全不同的觀點(diǎn)。我們先選取一個(gè)大部分科學(xué)家認(rèn)可，也符合日常經(jīng)驗(yàn)的說(shuō)法：這里說(shuō)的意識(shí)，是神經(jīng)系統(tǒng)對(duì)自我感受和外部感知的總和。

(資料圖)

翻譯成日常語(yǔ)言，拿我們?nèi)祟?lèi)自己舉例子，我們能看到光，聽(tīng)到聲音，五感信息會(huì)進(jìn)入意識(shí)。同時(shí)，我們能感覺(jué)到自己身體內(nèi)的疼痛、疲憊、緊張、饑餓等，能處理思想、記憶、情緒等，這些信息都會(huì)進(jìn)入到意識(shí)，成為意識(shí)的一部分。

而且，人能感覺(jué)自己的存在，知道有一個(gè)連續(xù)的自我，并能審視自我，這也是人類(lèi)意識(shí)的一部分。人只要處于覺(jué)醒的狀態(tài)，就具備意識(shí)。睡著了或者昏迷了，就會(huì)失去意識(shí)。死亡時(shí)，神經(jīng)活動(dòng)停止，意識(shí)就會(huì)徹底消散。

人工智能能擁有 " 意識(shí) " 嗎？

在聊這個(gè)問(wèn)題之前，先讓我們來(lái)看看大語(yǔ)言模型的人工智能能做到什么。首先，如今的人工智能可以像人一樣說(shuō)話，感覺(jué) " 像 " 個(gè)人。但是，這種感覺(jué)不是硬證據(jù)。人類(lèi)總是基于自身的經(jīng)驗(yàn)，判斷其他客體是不是有意識(shí)，往往對(duì)方表現(xiàn)得越像人，人類(lèi)就越會(huì)認(rèn)為它有意識(shí)。這種判斷是非常不準(zhǔn)確的，人類(lèi)經(jīng)常會(huì)認(rèn)為寵物貓和狗有復(fù)雜的意識(shí)，實(shí)際上就是把自己的經(jīng)驗(yàn)投射到了動(dòng)物身上。

科學(xué)家發(fā)現(xiàn)，人類(lèi)甚至對(duì)有眼睛的東西就會(huì)投射它有意識(shí)的感覺(jué)。因此，" 感覺(jué)像人 " 和 " 有意識(shí) " 不能畫(huà)等號(hào)。就像谷歌科學(xué)家遇到的那樣，有些模型會(huì)自己說(shuō)自己是人。這是有意識(shí)的表現(xiàn)了吧？但還真不能這么說(shuō)，大語(yǔ)言模型是基于人類(lèi)語(yǔ)言訓(xùn)練的，這些訓(xùn)練材料本身就包含海量的自我表達(dá)，人工智能可能學(xué)會(huì)了類(lèi)似的表達(dá)方法，可以生成這樣的句子。舉個(gè)不夠恰當(dāng)?shù)睦樱W鵡學(xué)說(shuō)話時(shí)也可以說(shuō)我如何如何，但是它卻并不能理解 " 我 " 的含義。

其實(shí)，許多學(xué)者堅(jiān)決反對(duì)人工智能可以擁有意識(shí)，他們的理由多種多樣，比如有些學(xué)者認(rèn)為，只有生物才能發(fā)展出意識(shí)。還有些學(xué)者認(rèn)為，意識(shí)需要感知外部世界，只有具有物理意義上的身體，才能發(fā)展出意識(shí)。更有學(xué)者認(rèn)為，必須發(fā)展出一套關(guān)于世界的認(rèn)知，甚至發(fā)展出一定的內(nèi)省能力，才能具備意識(shí)。例如，國(guó)內(nèi)的人工智能專(zhuān)家袁行遠(yuǎn)用幾個(gè)問(wèn)題測(cè)試 ChatGPT，他問(wèn)人工智能，自己門(mén)牙不好，是應(yīng)該吃蘋(píng)果還是吃香蕉。人工智能回答，吃蘋(píng)果。他糾正道，蘋(píng)果是硬的，香蕉是軟的，牙不好應(yīng)該吃香蕉，人工智能表示原來(lái)如此，它學(xué)習(xí)了。

袁行遠(yuǎn)繼續(xù)進(jìn)行涉及空間推理等問(wèn)題的測(cè)試，ChatGPT 都給出了錯(cuò)誤的答案。對(duì)于系列結(jié)果，袁行遠(yuǎn)給出了一個(gè)巧妙的比方，他說(shuō)：ChatGPT 就像是一個(gè)小孩，已經(jīng)讀了全世界所有的書(shū)，卻從來(lái)沒(méi)有走出過(guò)他的房間。

許多科學(xué)家認(rèn)為，生物有一具身體，能夠 " 走出房間 " 感知世界，才能發(fā)展出意識(shí)。如果這個(gè)看法是正確的，那么人工智能恐怕很難發(fā)展出動(dòng)物具備的那種意識(shí)了。不過(guò)，這也只是這些學(xué)者的一家之言。

許多科學(xué)家認(rèn)為，沒(méi)有身體，光是 " 看了全世界所有的書(shū) "，照樣可以發(fā)展出意識(shí)。目前，基于大語(yǔ)言模型的人工智能不僅具備了強(qiáng)大的對(duì)話能力，而且，涌現(xiàn)出了相當(dāng)好的邏輯推理能力，甚至擁有了猜測(cè)他人心理狀態(tài)的能力。《科普中國(guó)》曾經(jīng)刊載過(guò)文章解讀這項(xiàng)研究，如《ChatGPT 相當(dāng)于 9 歲人類(lèi)小孩，它還真把自己當(dāng)個(gè)人了？》。這種涌現(xiàn)出來(lái)的能力可能讓它超越人類(lèi)的預(yù)期，獲得一定的意識(shí)。

而且，按目前的發(fā)展進(jìn)度，這一類(lèi)人工智能還表現(xiàn)出了一定的通用智力。過(guò)去的人工智能往往為特定任務(wù)訓(xùn)練，有的會(huì)開(kāi)車(chē)，有的會(huì)下圍棋，但是不會(huì)其他技能。大語(yǔ)言模型訓(xùn)練的人工智能不僅能處理文本，還會(huì)推理、翻譯、編程甚至繪圖。

一些科學(xué)家估計(jì)，這種通用的智能可能也是意識(shí)的基礎(chǔ)，隨著人工智能不斷發(fā)展，出現(xiàn)一定程度的意識(shí)，或者不同于人類(lèi)理解的意識(shí)，也是有可能的。由此可見(jiàn)，通常所說(shuō)的 " 意識(shí) " 是神經(jīng)系統(tǒng)自我感受和外部感知的總和。人類(lèi)和許多動(dòng)物有不同水平的意識(shí)。目前來(lái)看，基于大語(yǔ)言模型的人工智能還不具備意識(shí)。但是隨著人工智能演進(jìn)，出現(xiàn)某種程度的意識(shí)，也是有可能的。

一審丨編輯 安娜

二審丨值班主任 劉宇瑋

三審丨總值班 汪世偉

來(lái)源丨《科普中國(guó)》