環(huán)球微速訊：AI哨所｜外媒：強大AI需“超智能”監(jiān)管 這兩種制度或可一試

【資料圖】

鳳凰網(wǎng)科技訊 《AI哨所》北京時間5月8日消息，ChatGPT的橫空出世已經(jīng)讓人工智能(AI) 的監(jiān)管提上日程。外媒周日發(fā)表觀點文章稱，強大的AI需要有“超智能”(superintelligent)的監(jiān)管。

AI監(jiān)管已提上日程

文章稱，強大的AI系統(tǒng)可以為社會帶來巨大好處，并幫助人類解決一些世界性難題。例如，機器學(xué)習(xí)模型已經(jīng)在診斷疾病、加速科學(xué)研究、提高經(jīng)濟生產(chǎn)率，以及通過優(yōu)化電網(wǎng)的電流來減少能源使用等方面發(fā)揮了重要作用。不過，如果這些好處因為AI遭到強烈反對而受到損害，那將是一場悲劇。但正如“AI教父”杰弗里·辛頓(Geoffrey Hinton)上月從谷歌辭職時所警告的那樣，隨著AI技術(shù)在不公平歧視、虛假信息和欺詐等領(lǐng)域的濫用成倍增加，危險也越來越大。

因此，各國政府必須迅速采取行動，適當(dāng)和成比例地監(jiān)管這項技術(shù)。但是，如何做到這一點將是人類這個時代面臨的最大管理挑戰(zhàn)之一。機器學(xué)習(xí)系統(tǒng)可以部署在數(shù)百萬個用例中，無法簡單分類，可能會給監(jiān)管機構(gòu)帶來許多問題。這種快速發(fā)展的技術(shù)也可以大規(guī)模地以分散、無形和無處不在的方式使用。但令人鼓舞的是，世界各地的監(jiān)管機構(gòu)終于開始著手解決這些問題。

鳳凰網(wǎng)科技 《AI哨所》了解到，文章指出，解決AI監(jiān)管問題的第一步是科技行業(yè)本身就透明度、問責(zé)制和公平達成一致并實施一些通用原則。例如，企業(yè)永遠(yuǎn)不應(yīng)該試圖拿聊天機器人假冒人類；第二步是所有監(jiān)管機構(gòu)在就業(yè)法、金融和消費者市場、競爭政策、數(shù)據(jù)保護、隱私和人權(quán)等領(lǐng)域，修改現(xiàn)有規(guī)則，以考慮AI帶來的具體風(fēng)險。第三步是政府機構(gòu)和大學(xué)深化自身的技術(shù)專長，以降低被產(chǎn)業(yè)俘獲的風(fēng)險。

除此之外，人類還應(yīng)該考慮對AI制定兩種總體監(jiān)管制度，即使單獨一種都不足以應(yīng)對挑戰(zhàn)的規(guī)模。一種是基于預(yù)防原則的制度，這意味著在一些關(guān)鍵的、生死攸關(guān)的領(lǐng)域，如醫(yī)療保健、司法系統(tǒng)和軍隊，使用的算法在使用前需要預(yù)先批準(zhǔn)。 這可能會以與美國食品和藥物管理局大致相同的方式運作，后者在藥物上市前進行篩選，并擁有更廣泛的職責(zé)來保護和促進公眾健康。

第二種更靈活的模式可以基于“意外治理”，就像航空業(yè)一樣。雖然這聽起來令人擔(dān)憂，但在過去幾十年里，它在提高航空安全標(biāo)準(zhǔn)方面發(fā)揮了極其有效的作用。一旦發(fā)現(xiàn)故障，國際航空當(dāng)局有權(quán)要求所有飛機制造商和航空公司做出改變。當(dāng)在面向消費者的AI模型(例如自動駕駛汽車)中發(fā)現(xiàn)有害缺陷時，可以使用類似的方法。

文章稱，多位領(lǐng)先的行業(yè)研究人員呼吁暫停開發(fā)先進的生成式AI模型。但是，除非能夠建立更清晰的管理機制，否則暫停是毫無意義的。就連科技行業(yè)也承認(rèn)，它現(xiàn)在需要更清晰的行業(yè)規(guī)則，必須與政府和民權(quán)組織建設(shè)性地合作，幫助制定這些規(guī)則。畢竟，如果安裝了有效的剎車裝置，汽車在轉(zhuǎn)彎時可以開得更快。鳳凰網(wǎng)科技《AI哨所》對此將持續(xù)關(guān)注。(作者/簫雨)