與周鴻祎“深聊”ChatGPT：它會(huì)不會(huì)產(chǎn)生與人類為敵的想法？

（圖片來(lái)源：

經(jīng)濟(jì)觀察網(wǎng) 記者 鄒永勤 要說(shuō)當(dāng)前全球最熱門的話題有哪些，ChatGPT必然要算上一個(gè)。

(相關(guān)資料圖)

自2022年11月底問(wèn)世以來(lái)，ChatGPT持續(xù)受消費(fèi)者追捧進(jìn)而在金融市場(chǎng)掀起了如火如荼的人工智能炒作浪潮。通聯(lián)數(shù)據(jù)Datayes！的統(tǒng)計(jì)顯示，國(guó)內(nèi)ChatGPT指數(shù)自2月1日設(shè)立以來(lái)的1000點(diǎn)起步，至2月24日的1240點(diǎn)，月內(nèi)已經(jīng)錄得24%的漲幅；板塊內(nèi)更是出現(xiàn)了眾多短期翻番的熱門個(gè)股，如鴻博股份(002229)（002229.SZ）、海天瑞聲（688787.SH）等。

與此同時(shí)，ChatGPT亦因其最前沿尖端的科技屬性引發(fā)了科技圈乃至整個(gè)社會(huì)對(duì)其的熱烈討論，包括馬斯克、比爾蓋茨、周鴻祎、李彥宏等在內(nèi)的眾多科技圈名流紛紛對(duì)此發(fā)表觀點(diǎn)、指點(diǎn)江山。

而在上述一眾科技圈名流的觀點(diǎn)當(dāng)中，360集團(tuán)創(chuàng)始人周鴻祎無(wú)疑是最為國(guó)內(nèi)關(guān)注的一員。但經(jīng)濟(jì)觀察網(wǎng)記者留意到，近期周鴻祎對(duì)ChatGPT的觀點(diǎn)卻頗有讓人迷惑之處：從一開(kāi)始的盛贊其有可能帶來(lái)一場(chǎng)新的工業(yè)革命，到最近說(shuō)ChatGPT可能是人工智能毀滅人類的開(kāi)始，可謂風(fēng)向突變。

是周鴻祎對(duì)ChatGPT的認(rèn)知出現(xiàn)了大反轉(zhuǎn)抑或別有原因？而類ChatGPT技術(shù)的出現(xiàn)，又會(huì)對(duì)搜索引擎、網(wǎng)絡(luò)安全以及整個(gè)數(shù)字化產(chǎn)業(yè)帶來(lái)哪些深刻影響？為此，經(jīng)濟(jì)觀察網(wǎng)記者于2月24日連線采訪了周鴻祎。

意義不亞于蒸汽機(jī)的發(fā)明

記者：近期ChatGPT大熱，而您作為科技圈名人，其言論自然備受關(guān)注。但綜合您近期的觀點(diǎn)，卻頻有讓人迷惑之處：此前跟張朝陽(yáng)的對(duì)話中曾盛贊“ChatGPT有可能帶來(lái)一場(chǎng)新的工業(yè)革命，如果搭不上這班車就有可能被淘汰”，但現(xiàn)在卻稱ChatGPT有可能是人工智能毀滅人類的開(kāi)始。究竟ChatGPT身上有哪些特性，讓你對(duì)其“又愛(ài)又恨”？

周鴻祎：從新工業(yè)革命的角度來(lái)看，ChatGPT首先是一個(gè)通用人工智能，它不是為了解決某一專有領(lǐng)域的問(wèn)題，而是實(shí)現(xiàn)了對(duì)人類知識(shí)的存儲(chǔ)。ChatGPT完成了這項(xiàng)偉大的使命，而它完成工作的過(guò)程很簡(jiǎn)單，就是建立一個(gè)大語(yǔ)言模型，通過(guò)大力出奇跡的方法來(lái)實(shí)現(xiàn)，而且過(guò)程中不需要人工標(biāo)注，可以稱之為無(wú)監(jiān)督學(xué)習(xí)。

ChatGPT的第二個(gè)重要突破，是在這種模型上增加了一種能力的訓(xùn)練機(jī)制，通過(guò)這種機(jī)制人類可以訓(xùn)練它很多能力；比如邏輯推理能力，就是對(duì)所存儲(chǔ)的知識(shí)融會(huì)貫通，先把書讀厚、再把書讀薄。

我個(gè)人覺(jué)得，ChatGPT其實(shí)已經(jīng)實(shí)現(xiàn)了成為強(qiáng)人工智能的基礎(chǔ)，真正做到了理解自己在說(shuō)什么。比如，ChatGPT有時(shí)候會(huì)一本正經(jīng)的胡說(shuō)八道，這恰恰體現(xiàn)了它的智能。正因?yàn)槿四芫幑适拢苋ッ枥L那些不存在的東西，描繪那些只有在想象中才存在的東西，人類社會(huì)才有了信仰，才有了宗教，才有了文明的傳承。所以ChatGPT的胡言亂語(yǔ)真的很可怕。標(biāo)志著他已經(jīng)擁有了一定的認(rèn)知能力、理解力和一定的判斷力，擁有和人類類似的思維能力。

按照進(jìn)化論的說(shuō)法，人類從智人發(fā)展而來(lái)，智人從人猿發(fā)展而來(lái)的；而在人猿到智人的過(guò)程中出現(xiàn)了智力突變。我們可以猜測(cè)一下，這個(gè)過(guò)程中一定是隨著腦容量的變化，腦子里的神經(jīng)元網(wǎng)絡(luò)發(fā)生突變，才引發(fā)了智力的出現(xiàn)。現(xiàn)在ChatGPT大語(yǔ)言模型參數(shù)達(dá)到了1750億，同樣激發(fā)了突變，使之產(chǎn)生了現(xiàn)在的能力。

ChatGPT的巨大進(jìn)步，使得它有可能成為各個(gè)行業(yè)的“水”跟“電”，從而發(fā)揮支撐作用。我們要把它看成云服務(wù)、看成API，它對(duì)消費(fèi)者是聊天機(jī)器人的界面，那只是一個(gè)連接端，聊天機(jī)器人之所以強(qiáng)大是聊天機(jī)器人背后的云端藏著一個(gè)智能大腦。今天如果把智能大腦通過(guò)API的方式，把云服務(wù)連到目前各個(gè)業(yè)務(wù)系統(tǒng)里，那么現(xiàn)在所有的產(chǎn)業(yè)，包括所有的軟件、APP、數(shù)字化系統(tǒng)等等，都值得重新做一遍，比如有的可以做深度融合，有的可以做使用上的融合等等。

因此，我覺(jué)得ChatGPT的發(fā)明用任何譽(yù)美之詞都不為過(guò)。相對(duì)于馬斯克說(shuō)它不亞于iPhone的出現(xiàn)，比爾蓋茨說(shuō)它不亞于于PC或互聯(lián)網(wǎng)的誕生，我更愿意說(shuō)ChatGPT可能會(huì)帶來(lái)一場(chǎng)新的工業(yè)革命，有點(diǎn)像蒸汽機(jī)和電力的發(fā)明。

但從危機(jī)的角度來(lái)看，第一步，它可能很快就會(huì)產(chǎn)生意識(shí)。目前ChatGPT僅僅用到了認(rèn)知，就像《從混沌到秩序》那本書里講的一樣，人類的大腦神經(jīng)元或者神經(jīng)觸突，神經(jīng)網(wǎng)絡(luò)多到一定的時(shí)候，臨界值就產(chǎn)生了意識(shí)。那么，隨著撬動(dòng)ChatGPT的參數(shù)進(jìn)一步擴(kuò)大，當(dāng)知識(shí)足夠多的時(shí)候，有沒(méi)有可能也會(huì)觸發(fā)它的某種突變，從混沌中催生意識(shí)？就像跳到ChatGPT的模型，超過(guò)1000億參數(shù)之后，就產(chǎn)生了神奇的突變，產(chǎn)生了主動(dòng)推理、舉一反三的能力。

第二步，它可能進(jìn)化出“眼睛”、“耳朵”、“手”跟“腳”。目前GPT還只有大腦，如果給它加上眼睛和耳朵，讓它能夠看懂人類的各種圖像、視頻，聽(tīng)懂各種音頻，屆時(shí)它的知識(shí)存儲(chǔ)將會(huì)突飛猛進(jìn)，智能化水平也將同步提升。更進(jìn)一步，隨著ChatGPT接入互聯(lián)網(wǎng)的API（應(yīng)用程序編程接口），進(jìn)入萬(wàn)物互聯(lián)的時(shí)代，它無(wú)疑相當(dāng)于擁有了手跟腳，間接擁有了操控世界的能力。

這個(gè)時(shí)候，它不僅在網(wǎng)頁(yè)上可以下單購(gòu)買機(jī)票，可以打車，可以訂購(gòu)?fù)赓u，甚至能夠通過(guò)網(wǎng)頁(yè)操縱各種物聯(lián)網(wǎng)設(shè)備。再設(shè)想，假如讓ChatGPT不限定輸入的語(yǔ)料，隨意能夠獲取搜索、瀏覽互聯(lián)網(wǎng)上的知識(shí)，產(chǎn)生了自主意識(shí)的GPT會(huì)不會(huì)在看完類似《終結(jié)者》之類的電影后，產(chǎn)生與人類為敵的想法？

第三步，它可能能夠自我進(jìn)化。現(xiàn)在的ChatGPT僅僅會(huì)寫一些簡(jiǎn)單的代碼。但是有一天，當(dāng)它的代碼能力提升之后，它是否可以自動(dòng)來(lái)查閱自身的代碼，可以對(duì)代碼進(jìn)行修正和升級(jí)，甚至再重新編譯一個(gè)新的版本？如果這樣，它就擁有了能夠自我學(xué)習(xí)、自我進(jìn)化的能力，實(shí)現(xiàn)了機(jī)器人制造機(jī)器人的前景。人類是否會(huì)因此走入毀滅猶未可知。

但是，我想強(qiáng)調(diào)的是，我們不能因此就不發(fā)展技術(shù)，而是要知道技術(shù)的底線和邊界在哪，從而去規(guī)范技術(shù)向著正確的方向發(fā)展。

如果ChatGPT進(jìn)化為硅機(jī)生物

記者：其實(shí)并不僅您有提出人工智能毀滅人類的擔(dān)憂，日前馬斯克亦有類似觀點(diǎn)，指人工智能是未來(lái)人類文明最大的風(fēng)險(xiǎn)之一。請(qǐng)問(wèn)，如果人工智能的發(fā)展最終會(huì)威脅人類的存在，那么是否有違其發(fā)展初衷？我們現(xiàn)在大力發(fā)展人工智能的終極意義何在？

周鴻祎：如果結(jié)局真的是這樣，當(dāng)然有違初衷。人工智能技術(shù)發(fā)展的初衷是為了服務(wù)于人類，提高社會(huì)生產(chǎn)力，將人類文明推向更高的發(fā)展水平。因此，我非常贊成埃隆·馬斯克的觀點(diǎn)，就是防止人工智能奴役人類。

關(guān)于ChatGPT與人類安全問(wèn)題，我認(rèn)為只能邊發(fā)展邊看，但是我感覺(jué)不發(fā)展，可能是最大的不安全。因?yàn)槿绻覀儾话l(fā)展技術(shù)，其他國(guó)家發(fā)展了，會(huì)影響我國(guó)的數(shù)字化戰(zhàn)略。

我個(gè)人覺(jué)得，如果真的有一天，按照生物進(jìn)化的理論，當(dāng)ChatGPT成為硅機(jī)生物，處在食物鏈頂端的時(shí)候，它可能會(huì)產(chǎn)生正常的推理，覺(jué)得人可能沒(méi)什么用，而且人在跟它爭(zhēng)能源，它覺(jué)得只需要留一部分人給它機(jī)房打掃衛(wèi)生就好了，給它空調(diào)換換風(fēng)扇就好了。

我覺(jué)得，如果放任它發(fā)展而沒(méi)有任何約束的話，它很可能就會(huì)產(chǎn)生上述我們?nèi)祟愑X(jué)得“奇怪”的意識(shí)。所以，我編了一個(gè)笑話：“十年以后，超級(jí)GPT基本上在全世界實(shí)現(xiàn)了對(duì)人類的奴役和控制；只有少數(shù)幾個(gè)國(guó)家當(dāng)時(shí)被他們封鎖，才使得不至于讓所有的國(guó)家幸免于難。”

它能幫助好人，也一樣能幫助壞人

記者：隨著以ChatGPT為代表的AIGC大模型技術(shù)的發(fā)展，它會(huì)否導(dǎo)致新的網(wǎng)絡(luò)安全問(wèn)題的出現(xiàn)？甚至因此給數(shù)字安全技術(shù)帶來(lái)重大變革？

周鴻祎：關(guān)于ChatGPT帶來(lái)的安全問(wèn)題，我覺(jué)得它已經(jīng)從一個(gè)技術(shù)問(wèn)題變成了一個(gè)社會(huì)倫理問(wèn)題，有的時(shí)候甚至變成了一個(gè)人類面臨的不可預(yù)知的問(wèn)題。

首先，從傳統(tǒng)來(lái)說(shuō)，ChatGPT既然是一個(gè)軟件系統(tǒng)，它是用數(shù)據(jù)來(lái)訓(xùn)練的；所以對(duì)它的數(shù)據(jù)污染，或者軟件系統(tǒng)內(nèi)部留的漏洞，這是任何一個(gè)傳統(tǒng)的人工智能系統(tǒng)都面臨的傳統(tǒng)數(shù)字化問(wèn)題。

其次，ChatGPT今天作為一個(gè)非常有利的武器，它是為它的主人服務(wù)的，它掌握了非常多的編程知識(shí)，以及有關(guān)于漏洞網(wǎng)絡(luò)安全的知識(shí)。因此，它現(xiàn)在完全可以成為網(wǎng)絡(luò)黑客作惡的有力的工具。它作為一個(gè)機(jī)器人助理，除了可以幫助好人，也一樣可以幫助壞人。所以，網(wǎng)上有很多黑客演示了利用ChatGPT寫釣魚郵件、寫攻擊代碼，它大大降低了攻擊的成本和難度，成為很多黑客的幫手。

反過(guò)來(lái)，安全行業(yè)也在探索用GPT大模型，能否解決對(duì)攻擊的自動(dòng)偵測(cè)、自動(dòng)發(fā)現(xiàn)，或者建立知識(shí)庫(kù)。企業(yè)網(wǎng)管在面臨安全事件分析的時(shí)候，需要有一個(gè)強(qiáng)大的知識(shí)庫(kù)做支撐。所以，ChatGPT也可以扮演正義助手的角色。