高度重視人工智能健康發(fā)展 為人工智能發(fā)展設(shè)置“安全閥”

人工智能已不再是高大上的概念，而成為在生產(chǎn)生活的方方面面快速滲透的技術(shù)應(yīng)用。在為我們帶來(lái)各種便利的同時(shí)，它所觸及的倫理和法律問(wèn)題也開(kāi)始凸顯。

全國(guó)政協(xié)日前召開(kāi)雙周協(xié)商座談會(huì)，專門就人工智能發(fā)展中的科技倫理與法律問(wèn)題進(jìn)行協(xié)商議政。在充分調(diào)研的基礎(chǔ)上，此次座談會(huì)對(duì)相關(guān)問(wèn)題進(jìn)行了深入探討。

要高度重視人工智能健康發(fā)展

“我國(guó)人工智能發(fā)展勢(shì)頭迅猛，但發(fā)展機(jī)遇與風(fēng)險(xiǎn)并存，(人工智能)對(duì)人類社會(huì)發(fā)展也可能帶來(lái)重大風(fēng)險(xiǎn)和潛在威脅。”全國(guó)政協(xié)委員、社會(huì)和法制委員會(huì)副主任陳智敏在座談會(huì)上表示，要高度重視人工智能健康發(fā)展和風(fēng)險(xiǎn)防范。

全國(guó)政協(xié)常委、湖南省政協(xié)副主席張大方在座談會(huì)上提出，應(yīng)警惕人工智能發(fā)展所帶來(lái)的社會(huì)公平問(wèn)題。在他看來(lái)，人工智能主要以大數(shù)據(jù)和深度學(xué)習(xí)為基礎(chǔ)，而往往數(shù)據(jù)的缺失、數(shù)據(jù)的質(zhì)量、算法的歧視和人工的變化，會(huì)導(dǎo)致一些偏見(jiàn)出現(xiàn)。

人工智能應(yīng)用中的個(gè)人隱私保護(hù)問(wèn)題，在此次座談會(huì)上備受關(guān)注。

“人工智能需要大量個(gè)人數(shù)據(jù)支撐，其中很多是個(gè)人隱私。隱私信息一旦泄露，可能對(duì)消費(fèi)者人身、財(cái)產(chǎn)安全及企業(yè)、公共利益造成嚴(yán)重威脅。”全國(guó)政協(xié)委員、九三學(xué)社重慶市委會(huì)副主委黃愛(ài)龍?zhí)岢觥?/p>

全國(guó)政協(xié)委員、上海眾人智能科技有限公司董事長(zhǎng)談劍鋒認(rèn)為，在海量大數(shù)據(jù)中，尤其需要關(guān)注的是不可再生性數(shù)據(jù)，比如人臉、指紋、DNA等生物特征數(shù)據(jù)，以及個(gè)人醫(yī)療檔案數(shù)據(jù)等。“這些數(shù)據(jù)具有唯一性，是無(wú)法更改的，一旦被采集到不安全的網(wǎng)絡(luò)上，極有可能帶來(lái)災(zāi)難性后果。”談劍鋒說(shuō)。

不僅如此，人工智能發(fā)展引發(fā)的就業(yè)問(wèn)題、人工智能紅利形成的“數(shù)字鴻溝”“貧富鴻溝”等社會(huì)財(cái)富分配問(wèn)題也在座談會(huì)上得到討論。

技術(shù)防范+倫理規(guī)范+法律規(guī)制

全國(guó)政協(xié)副主席、民盟中央常務(wù)副主席陳曉光在作主題發(fā)言時(shí)指出，應(yīng)充分認(rèn)識(shí)人工智能科技倫理與法律建設(shè)的戰(zhàn)略意義。

“人工智能的健康發(fā)展，必須回答人工智能到底該由誰(shuí)掌控、人工智能發(fā)展的基本準(zhǔn)則是什么、人工智能發(fā)展的禁區(qū)在哪里等問(wèn)題，必須通過(guò)建立理性的倫理規(guī)則和法律規(guī)范為人工智能發(fā)展的風(fēng)險(xiǎn)防范設(shè)置‘控制閥’。”陳曉光表示。

陳曉光認(rèn)為，總的來(lái)看，人工智能治理需要在充分發(fā)揮技術(shù)手段的基礎(chǔ)上，注重倫理與制度的結(jié)合，逐步形成‘技術(shù)防范+倫理規(guī)范+法律規(guī)制’的綜合規(guī)制體系。

此次座談會(huì)上，科技部副部長(zhǎng)李萌提出多項(xiàng)在新形勢(shì)下加強(qiáng)人工智能倫理法律工作的相關(guān)建議。

李萌建議，全面增強(qiáng)人工智能技術(shù)創(chuàng)新能力。其要義之一是強(qiáng)化人工智能安全可信、隱私保護(hù)等方面技術(shù)研發(fā)，建設(shè)跨領(lǐng)域的人工智能測(cè)試平臺(tái)，強(qiáng)化倫理治理和風(fēng)險(xiǎn)防范的技術(shù)支撐。

此外，他還建議支持地方開(kāi)展重點(diǎn)領(lǐng)域的立法試點(diǎn)。“聚焦當(dāng)前的突出問(wèn)題，在人臉識(shí)別、語(yǔ)音合成、自動(dòng)駕駛、服務(wù)機(jī)器人等應(yīng)用進(jìn)展較快領(lǐng)域支持地方開(kāi)展立法試點(diǎn)，為國(guó)家層面的立法積累實(shí)踐經(jīng)驗(yàn)。”

倫理治理工作正穩(wěn)步推進(jìn)

李萌在座談會(huì)上介紹，目前我國(guó)人工智能倫理治理工作正穩(wěn)步推進(jìn)。

“黨中央高度重視人工智能倫理法律問(wèn)題，《新一代人工智能發(fā)展規(guī)劃》專門對(duì)人工智能倫理法律作出部署。科技部會(huì)同相關(guān)部門共同落實(shí)人工智能發(fā)展規(guī)劃，各項(xiàng)工作取得積極進(jìn)展。” 李萌表示。

他介紹了圍繞推動(dòng)人工智能倫理治理重點(diǎn)開(kāi)展的相關(guān)工作。

比如，建立統(tǒng)籌推進(jìn)機(jī)制，成立由15個(gè)部門構(gòu)成的人工智能規(guī)劃推進(jìn)辦公室，統(tǒng)籌推進(jìn)包括人工智能治理在內(nèi)的任務(wù)落實(shí);起草發(fā)布治理原則，提出和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開(kāi)放協(xié)作、敏捷治理等八項(xiàng)原則;啟動(dòng)實(shí)施社會(huì)實(shí)驗(yàn)，開(kāi)展長(zhǎng)周期跨學(xué)科的人工智能綜合影響社會(huì)實(shí)驗(yàn)等。

不僅如此，還積極拓展交流合作空間，組織推薦專家參加聯(lián)合國(guó)教科文組織的人工智能倫理標(biāo)準(zhǔn)制定。在加強(qiáng)倫理法律問(wèn)題研究方面，李萌介紹，在科技創(chuàng)新2030-“新一代人工智能”重大項(xiàng)目中，組織開(kāi)展了人工智能倫理和立法問(wèn)題研究。

(劉園園)