陳兵：“AI換臉”等深度合成服務應用要守住安全底線_觀天下

中新經緯12月14日電 題：“AI換臉”等深度合成服務應用要守住安全底線

作者 陳兵 南開大學法學院副院長、教授

(資料圖片僅供參考)

近日，國家互聯網信息辦公室、工業和信息化部、公安部聯合發布《互聯網信息服務深度合成管理規定》(簡稱《規定》)，要求深度合成服務提供者和技術支持者加強訓練數據管理和技術管理，保障數據安全，不得非法處理個人信息，定期審核、評估、驗證算法機制機理等。

首先，應當明確的是，深度合成服務屬于算法推薦服務的一種，應用場景十分廣泛。其被應用于視頻制作等場景，往往可以提升視頻特效的真實性，達到以假亂真的效果。隨著相關技術的不斷進步，深度合成服務的技術應用門檻不斷降低。用戶往往僅需要進行上傳照片等簡單操作，就可以輕松獲得極為逼真的視覺效果。

不過，在帶來逼真視覺效果的同時，深度合成服務技術也存在一定的法律風險和侵權糾紛。比如，一些“AI換臉”軟件正走紅網絡，用戶在操作人臉替換軟件時，僅需上傳個人照片就可生成新視頻，但其他內容均與原視頻保持一致。這種“換臉”軟件的走紅，不僅對于他人的肖像權帶來了侵害，對于他人對個人信息享有的權利、他人對原視頻享有的著作權同樣存在負面影響，在一定程度上還會影響相關視頻平臺所享有的信息網絡傳播權，引發算法濫用糾紛。《民法典》明確，未經肖像權人同意，不得制作、使用、公開肖像權人的肖像；《個人信息保護法》明確，個人對其個人信息的處理享有知情權、決定權，有權限制或者拒絕他人對其個人信息進行處理。而人臉替換軟件的應用很有可能涉及對他人個人信息的處理。而且，他人對原視頻的制作享有著作權，使用人臉替換軟件生成新視頻可能對著作權也構成了侵犯。

《規定》的出臺，主要正是為了解決在人臉生成場景中可能存在的侵犯公民對個人信息享有的權利、侵害個人名譽權、危害國家和社會安全穩定等問題，為深度合成服務的規范發展樹立了安全底線。

具體而言，首先，《規定》明確深度合成服務的應用不得侵犯國家、社會、個人的合法權益。盡管技術具有中立性，但技術的應用應當堅持積極向上的價值觀。其次，《規定》明確深度合成服務提供者應落實信息安全主體責任。履行在數據、個人信息、算法、信息發布、科技倫理等方面的安全保障義務，提供相應的技術措施進行保障。再次，深度合成服務提供者應加強深度合成內容管理，采取技術或者人工方式對深度合成服務使用者的輸入數據和合成結果進行審核，同時應當制定和公開管理規則、平臺公約，完善服務協議，依法依約履行管理責任，以顯著方式提示深度合成服務技術支持者和使用者承擔信息安全義務。加強深度合成服務提供者的行業自治，鼓勵自主合規、積極合規，形成“有效市場+有為政府”的更好結合。最后，《規定》提出深度合成服務提供者和使用者不得利用深度合成服務制作、復制、發布、傳播虛假新聞信息，有助于保證互聯網空間的清朗秩序。

整體來看，《規定》聚焦于深度合成服務技術，統籌安全與發展。發展是安全的前提，安全是發展的保障。在人工智能的其他技術與場景中，同樣需要秉持發展與安全并重的理念，確保各項技術行穩致遠。第一，可以充分發揮監管部門、行業協會、相關企業、人民群眾等不同主體在治理中的不同優勢，形成“有效市場+有為政府”的更好結合，構建多元主體共治的治理模式；第二，推動相關企業進行高質量發展。在保障安全的基礎上，促進各企業創新驅動，形成人工智能領域的新技術、新模式、新業態；第三，以各種政策措施，服務保障人工智能領域數據和算法產品和產業的高質量發展，形成公平有序的競爭環境，推動各企業積極出海競爭，構建人工智能領域發展的新格局。(中新經緯APP)

本文由中新經緯研究院選編，因選編產生的作品中新經緯版權所有，未經書面授權，任何單位及個人不得轉載、摘編或以其它方式使用。選編內容涉及的觀點僅代表原作者，不代表中新經緯觀點。

責任編輯：張芷菡

編輯：楊京川