直指GPT-4！馬斯克等千名“大佬”簽署公開(kāi)信，叫停AI訓(xùn)練

中新經(jīng)緯3月29日電 當(dāng)?shù)貢r(shí)間28日，未來(lái)生命研究所(Future of Life Institute)網(wǎng)站披露了一封公開(kāi)信，呼吁所有AI實(shí)驗(yàn)室立即暫停比GPT-4更強(qiáng)大的AI系統(tǒng)訓(xùn)練至少6個(gè)月。

生命未來(lái)研究所是在2014年創(chuàng)立于美國(guó)波士頓的研究機(jī)構(gòu)，目的一方面是為了促進(jìn)對(duì)“未來(lái)樂(lè)觀圖景”的研究，一方面是為了“降低人類面臨的現(xiàn)存風(fēng)險(xiǎn)”。2017年制定了Asilomar AI原則，這是被公認(rèn)最早和最有影響力的AI治理原則之一。

(資料圖片)

公開(kāi)信顯示，頂級(jí)實(shí)驗(yàn)室的深入研究表明，具有與人類能力相匹配的AI系統(tǒng)可能對(duì)未來(lái)社會(huì)和人文道德構(gòu)成風(fēng)險(xiǎn)。正如廣泛認(rèn)可的Asilomar AI原則中所述，高級(jí)AI可能造成地球生命史上的深刻變化，應(yīng)以相應(yīng)的資源等進(jìn)行規(guī)劃和管理。不幸的是，為了開(kāi)發(fā)和部署更強(qiáng)大的數(shù)字思維，最近幾個(gè)月AI實(shí)驗(yàn)室陷入了一場(chǎng)失控的競(jìng)賽，但相應(yīng)級(jí)別的規(guī)劃和管理目前還沒(méi)有。

來(lái)源：未來(lái)生命研究所網(wǎng)站

公開(kāi)信指出，當(dāng)代人工智能系統(tǒng)在一般任務(wù)上已變得與人類具有競(jìng)爭(zhēng)力，必須捫心自問(wèn)：我們是否需要讓機(jī)器宣傳充斥著信息渠道？我們是否要自動(dòng)化所有工作？是否最終發(fā)展成可能超過(guò)我們并取代我們的非人類思維？應(yīng)該冒險(xiǎn)失去對(duì)我們文明的控制嗎？

“只有確信它們的影響是積極并且風(fēng)險(xiǎn)可控時(shí)，才應(yīng)該開(kāi)發(fā)更強(qiáng)大的人工智能系統(tǒng)。”公開(kāi)信呼吁，所有AI實(shí)驗(yàn)室立即暫停比GPT-4更強(qiáng)大的AI系統(tǒng)訓(xùn)練至少6個(gè)月。如果不能迅速實(shí)施暫停，政府應(yīng)該介入。

公開(kāi)信稱，AI實(shí)驗(yàn)室和獨(dú)立專家應(yīng)該利用這次暫停，共同開(kāi)發(fā)和實(shí)施一套用于高級(jí)AI設(shè)計(jì)和開(kāi)發(fā)的共享安全協(xié)議，并由獨(dú)立外部專家進(jìn)行嚴(yán)格審計(jì)和監(jiān)督。

網(wǎng)站頁(yè)面顯示，此封公開(kāi)信已獲得包括蘋(píng)果聯(lián)合創(chuàng)始人斯蒂夫·沃茲尼亞克、特斯拉首席執(zhí)行官埃隆·馬斯克等在內(nèi)的上千位知名企業(yè)家、學(xué)者簽名。

來(lái)源：未來(lái)生命研究所網(wǎng)站

據(jù)路透社此前報(bào)道，當(dāng)?shù)貢r(shí)間周一，歐洲刑警組織也表達(dá)了對(duì)ChatGPT等先進(jìn)人工智能有關(guān)道德和法律的擔(dān)憂，警告該系統(tǒng)在網(wǎng)絡(luò)釣魚(yú)、虛假信息和網(wǎng)絡(luò)犯罪中可能被濫用。(中新經(jīng)緯APP)

編輯：付健青