肖颯：AI深度合成技術蘊含巨大法律風險:當前看點

中新經緯3月24日電 題：AI深度合成技術蘊含巨大法律風險

作者 肖颯 北京大成律師事務所合伙人

3月23日，AI生成“特朗普被捕”圖網絡瘋傳，還登上熱搜榜。據報道，美國前總統特朗普還沒有被捕，但他“被捕”的照片已經在網絡上瘋傳。原來，美國網友利用AI技術合成了一系列他被捕的“照騙”。但此事引起了網絡的巨大爭議。

(資料圖片僅供參考)

玩笑歸玩笑，但其背后卻蘊含著巨大的法律風險。AI深度合成技術已經成為網絡犯罪(特別是網絡詐騙犯罪)的“神器”，2022年年初的馬斯克換臉詐騙案僅在一周之內就成功詐騙2億資金。

AI寫稿、語音生成、合成音樂、生成藝術、人臉替換生成、場景編輯、三維重建以及虛擬數字人等，都在深度合成技術的“射程范圍”內。

隨著基于AI能力的擴展，它們被用于犯罪的潛力也隨之增加。2020年，倫敦大學學院針對AI技術可能會在未來滋生的各類犯罪進行了深度研究并制作了研究報告。報告中，研究人員確定了在未來15年內使用AI實施(幫助)犯罪的20種方式，這些犯罪方式包括非法控制自動駕駛汽車作為武器、魚叉式網絡釣魚、破壞信息系統、小型AI機器人入室盜竊、AI輔助跟蹤、自主攻擊無人機、深度合成技術以及大規模網絡勒索等。

深度合成既為我們的生活帶來了更多的便利，同時也帶來了許多潛在的系統性風險，包括：政治操縱。該種風險主要來自利用深度合成技術制造的假新聞，假新聞已經不是什么新鮮事，但深度合成技術使其與以往相比更加逼真可信，深度合成技術的濫用很可能會發生操縱公民、干預選舉、威脅國家安全和影響社會穩定的嚴重后果，以及更廣泛地侵蝕對新聞業和公共機構的信任。金融詐騙。這是當前利用深度合成技術實施犯罪的行為中，最常見、最多發的一種，深度合成在金融詐騙方面存在令人不寒而栗的潛力。另外，利用深度合成技術對其他商業主體的商譽進行損害，也是一種常見的不正當競爭行為。敲詐勒索、報復等。在某短視頻平臺上我們可以利用深度合成技術完成特效、換臉等方式來創作一些有趣的內容，此時的深度合成技術是我們娛人娛己的小工具。但我們是否想過，一旦將“換臉術”用到一些敏感視頻中，會發生什么樣的后果？不正當競爭。該用例說來有趣，2022年年初，在國外某著名求職平臺上，有數十家公司被曝利用深度合成技術生成假人和假身份并進行虛假賬戶銷售，不僅可以以此擴展業務，甚至還減少了人力成本。

我們作為普通人要注意的是，首先，深度合成技術不是萬能的，假視頻圖片等材料的生成需要使用個人圖像和視頻作為原材料。在這方面，名人的風險與普通人相比大得多。因此，為了最大限度地降低這種風險，謹慎的做法是只將自拍照和其他肖像、視頻發布到私人賬戶，并限制公開和分享的渠道(比如僅少量親友可見)。其次，我們還要避免在公開渠道發送我們不同年齡階段的個人圖像。猶記得某短視頻平臺上一個很火的模板是將自己從小到大的照片放在一起配上音樂快速閃回播放，實際上這是一種危險的做法，其為AI算法提供了大量有關我們個人相貌變化的寶貴信息，可以使得深度合成技術更輕易和精確地合成視頻。

2022年年初，中國國家互聯網信息辦公室出臺了《互聯網信息服務深度合成管理規定》(征求意見稿)，這是中國在規制深度合成技術方面走出的第一步。(中新經緯APP)

本文由中新經緯研究院選編，因選編產生的作品中新經緯版權所有，未經書面授權，任何單位及個人不得轉載、摘編或以其它方式使用。選編內容涉及的觀點僅代表原作者，不代表中新經緯觀點。

責任編輯：孫慶陽