世界速讀：近400名大佬簽署公開信警示AI風(fēng)險(xiǎn)，OpenAI創(chuàng)始人也在列

經(jīng)濟(jì)觀察網(wǎng) 記者 任曉寧 美東時(shí)間5月30日，美國非營利組織人工智能安全中心（CAIS）在其官網(wǎng)發(fā)布一封聯(lián)名公開信，稱AI堪比“大流行病和核戰(zhàn)爭”，有可能給人類帶來滅絕風(fēng)險(xiǎn)。

公開信只有一句話：“減輕人工智能帶來的滅絕風(fēng)險(xiǎn)，應(yīng)該與大流行病和核戰(zhàn)爭等其他社會規(guī)模的風(fēng)險(xiǎn)級別一樣，成為一個(gè)全球性的優(yōu)先事項(xiàng)。”

目前已有超過370位AI大佬簽署了上述聯(lián)名公開信，包括OpenAI首席執(zhí)行官Sam Altman、谷歌DeepMind首席執(zhí)行官Demis Hassabis和Anthropic首席執(zhí)行官Dario Amode三大AI公司掌門人等。

(資料圖片)

圖靈獎獲得者、被譽(yù)為人工智能“教父”的Geoffrey Hinton和Yoshua Bengio也簽署了這封公開信。

簽署名單里也有中國學(xué)者的身影，包括中國工程院院士、清華大學(xué)智能產(chǎn)業(yè)研究院院長張亞勤，中國科學(xué)院自動化研究所人工智能倫理與治理研究中心主任曾毅，清華大學(xué)副教授詹仙園。

名單主要以全球知名大學(xué)教授為主，其次是人工智能科學(xué)家，此外還有政界人士，比如愛沙尼亞共和國前總統(tǒng)Kersti Kaljulaid。

這個(gè)名單人數(shù)還在持續(xù)增加中。經(jīng)濟(jì)觀察網(wǎng)記者在CAIS官網(wǎng)看到，人工智能科學(xué)家或名人（高管、教授、領(lǐng)導(dǎo)）都可提交簽署聲明，并收到確認(rèn)郵件。

人工智能安全中心（CAIS）是一家位于美國舊金山的非營利組織。其官網(wǎng)稱，他們相信，只要能夠安全地開發(fā)和使用人工智能 (AI)，就有可能使世界受益匪淺。然而，與人工智能取得的巨大進(jìn)步相比，人工智能安全方面的許多基礎(chǔ)問題尚待解決。他們的使命是通過開展安全研究、建立人工智能安全研究領(lǐng)域和倡導(dǎo)安全標(biāo)準(zhǔn)來降低與人工智能相關(guān)的社會規(guī)模風(fēng)險(xiǎn)。

今年3月，國外上千位知名人士也簽署過公開信，警示AI風(fēng)險(xiǎn)。3月29日，特斯拉創(chuàng)始人埃隆·馬斯克、圖靈獎獲得者Yoshua Bengio等人在非營利組織“生命未來研究所(Future of Life Institute)”網(wǎng)站上發(fā)布聯(lián)名公告，呼吁暫停開發(fā)比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月，稱其“對社會和人類構(gòu)成潛在風(fēng)險(xiǎn)”。

目前，OpenAI已經(jīng)暫停開發(fā)GPT-5。

Yoshua Bengio提到簽署原因時(shí)說，這封公開信可以提醒學(xué)界和工業(yè)界：我們必須花時(shí)間更好地了解這些系統(tǒng)，并在國家和國際層面制定必要的框架，來增加對公眾的保護(hù)。即使簽署這封公開信造成的影響可能沒有那么大，但是起碼會掀起一場全社會的討論。

在國外，由于ChatGPT應(yīng)用更廣泛，暴露的風(fēng)險(xiǎn)也逐漸增加。3月28日，據(jù)比利時(shí)媒體LaLibre報(bào)道，比利時(shí)30歲男子在與聊天機(jī)器人ELIZA密集交流數(shù)周后自殺身亡，ELIZA是由EleutherAI開發(fā)的開源人工智能語言模型。

5月22日，美國一張五角大樓附近地區(qū)發(fā)生爆炸的圖片在社交媒體上瘋傳。這張?zhí)摷僬掌膹V泛流傳，甚至導(dǎo)致標(biāo)普500指數(shù)短線下跌約0.3%至盤中低點(diǎn)，由漲轉(zhuǎn)跌。隨后美國國防部發(fā)言人證實(shí)，這是一張由AI生成的虛假圖片，這張圖具有明顯的AI生成特征，比如路燈有些歪，圍欄長在了人行道上等。

AI翻唱歌曲成為一種潮流后，控制全球音樂市場近三分之一份額的環(huán)球音樂，已經(jīng)發(fā)函要求蘋果、Spotify等流媒體平臺封禁侵犯公司旋律、歌詞版權(quán)的AI作品。