1500億賽道恐成作惡溫床！虛假信息、版權紛爭……AIGC誰來監管？

開創未來還是致命誘惑？

作者｜窗紗小鹿

來源｜天天財經116

(資料圖片僅供參考)

AIGC，全稱“AI Generated Content”，又稱生成式AI，意為人工智能生成內容，包括文本、圖像、音樂、視頻、代碼等。

自從ChatGPT走紅后，生成式AI技術的發展和應用，引發了新一輪AI技術熱潮和軍備競賽。谷歌、亞馬遜等巨頭紛紛推出了面向用戶的生成式AI工具，國內的多家科技公司也加快了對AIGC的布局。

一些國家已經將生成式AI納入國家戰略的考量。據讀賣新聞消息，日本政府已經決定建立一個新的“戰略委員會”，以審議和制定與人工智能有關的國家戰略。日本首相岸田文雄此前在會議上表示：“生成式AI有望提高勞動生產效率，應對勞動力短缺等問題。”

根據美國Western Securities（西部證券）的分析，預計到2025年，AIGC市場空間將達到40.352億美元，到2030年市場將達到217.558億美元。這意味著整個市場在未來幾年可能迎來爆炸式增長。

但是，隨著生成式AI技術的應用范圍越來越廣，這些由AI生成的內容正面臨越來越多的爭議，其中主要涉及虛假信息和版權保護兩方面，為這項技術的發展敲響了警鐘。

AI成為作惡工具

4月15日，德國雜志Die Aktuelle刊登了一篇由AI生成的對F1傳奇車手舒馬赫的“采訪”內容。在該期雜志的封面上，醒目的寫著“邁克爾·舒馬赫：第一次采訪!”的標題，并附上了這位前F1世界冠軍的照片。下方一個較小的標題是“這聽起來很真實”。

現年54歲的舒馬赫在2013年滑雪時遭遇了事故，這給他的健康帶來了嚴重的長期影響。自事故發生以來，他從未公開露面。

這篇文章發表之后，立刻引起了舒馬赫家人的憤怒，據外媒報道，舒馬赫家族已經計劃對這家雜志采取法律行動。

目前，出版該雜志的Funke媒體集團已經宣布解雇該雜志的主編，并向舒馬赫及其家人進行了公開道歉。對于此次事件，Funke集團的總經理表示：“這篇具有誤導性的文章本不應該出現，這不符合我們的新聞標準。”

實際上，利用AI生成虛假有害信息的例子已經屢見不鮮。

此前，一位男網紅在社交平臺上表示，自己的臉被迪麗熱巴的粉絲抓傷，起因是其利用AI換臉技術，將迪麗熱巴在電視劇中接吻鏡頭的男主角替換為自己。

事件發酵之后，不少法律從業者指出，該男網紅的行為是典型的侵權行為。一方面，男網紅未經男演員授權，使用了對方的身體形象，侵犯了男演員的肖像權；另一方面，他的這種行為侵犯了女演員的名譽權和人格權。

明星在遭遇此類事件時，尚有粉絲的維護和社會輿論的關注，可如果被換臉的是一個普通人，往往更是難以澄清真相。

近日，廣州一女子在地鐵上的照片被AI“一鍵脫衣”，并在網絡上廣泛傳播。雖然事情在最后得到了澄清，但此種圖片大量傳播，對受害人所造成的傷害顯而易見。

利用AI技術生成色情信息和虛假信息已經形成了一條黑產業。在一些社交媒體平臺上，搜索“AI換臉”等關鍵詞，就會發現不少人都在用這些技術接單，只需要提供幾張照片，商家就可以按照需求定制照片和視頻，價格在幾十元到幾百元不等。

對于AI換臉的受害者來說，往往難以找到幕后的始作俑者，維權的難度和成本極高。況且，即使維權成功，已經被傳播的照片和視頻也無法收回，這些照片和視頻后續還會對受害者造成持續的傷害。

如何防范有人利用AI技術作惡，已成為一個亟待解決的問題。

AI生成的內容，版權歸誰？

AI生成的內容，如何界定其版權歸屬，這是近期圍繞著生成式AI技術的另一個爭議焦點。

去年，數字藝術家克里斯·卡什塔諾娃(Kris Kashtanova)使用人工智能繪畫工具Midjourney創作了一本長達18頁的漫畫故事《黎明的查莉婭》(Zarya of the Dawn)，引發了一場關于人工智能創作作品的版權爭論。

《黎明的查莉婭》（部分） 圖源：美國版權局

針對《黎明的查莉婭》的版權認定問題，美國版權局今年2月指出，由藝術家本人撰寫和編排的文字部分受版權保護，但使用Midjourney制作的圖像不享有版權。

美國版權局在案件中表示，“用戶利用Midjourney這一AI繪圖工具生成的漫畫內容不構成版權作品，因為在圖像生成過程中沒有自然人的創造投入，而是由Midjourney自動隨機形成”。

在3月16日的指南中，美國版權局再次明確了上述立場：“根據對生成式人工智能技術的理解，用戶對于輸出的內容不具有創作性貢獻和控制，應當拒絕版權注冊申請”。

這份指南特別指出，版權只能保護人類創作的作品，憲法和版權法中使用的術語“作者”排除了非人類。

版權申請人則對此有不同的意見，申請人曾反駁道，“和畫筆以及其他繪圖軟件無異，Midjourney在漫畫生成過程中僅僅是被用來完成用戶內心希望呈現圖像的工具。”

除了AI生成作品的版權爭議，AI在訓練階段使用的數據也存在版權上的問題。

去年11月，程序員Matthew Butterick聯合三位律師正式對微軟旗下的AI生成代碼輔助工具Copilot提起訴訟，原因是Butterick認為Copilot違反了開源許可協議，在模型訓練階段，使用了Github社區中的開源代碼作為訓練數據，但抹去了代碼的歸屬信息。這是美國第一起關于生成式AI的集體訴訟。

來源：Matthew Butterick博客

隨著生成式AI技術井噴式的發展，可以預見，基于現有的法律邊界，由AIGC引發的爭議和訴訟將會越來越多。

各國加強對AIGC的監管

ChatGPT等生成式AI的爭議也引起各國重視，很多國家開啟了對相關風險的調查和監管。

3月31日，意大利數據保護局（Garante）以涉嫌違反數據收集規則為由，對ChatGPT的開放公司OpenAI展開調查，并宣布暫時禁止使用ChatGPT，且限制OpenAI處理意大利用戶數據。

在意大利宣布調查后的幾天里，法國、德國和愛爾蘭的數據監管機構已聯系意大利數據保護局，要求提供有關其調查結果的更多信息；包括中國、美國、法國、意大利、西班牙和加拿大在內的多國政府已宣布或考慮對生成式AI進行調查監管。

4月11日，中國下發了《生成式人工智能服務管理辦法（征求意見稿）》的通知，并向社會公開征求意見。

同一天，美國商務部就相關的問責措施正式公開征求意見，包括具有潛在風險的新型人工智能模型在發布前是否應該進行核準認證程序。這被視作美國邁出對人工智能領域實行潛在監管的第一步。

4月12日，意大利數據保護局圍繞數據安全問題向OpenAI提出了一系列要求，要求其公開ChatGPT的數據處理邏輯、對用戶年齡進行篩查、明確數據主體擁有的權利等。

4月13日，法國國家信息自由委員會決定對ChatGPT提出5項指控，并展開調查。同日，西班牙數據保護局也發表聲明，稱該機構已經正式對ChatGPT可能的違反法律行為展開初步調查程序。

在立法層面，歐盟再一次走在了最前面。4月27日，歐盟達成了一項新的立法草案，該草案規定生成性人工智能工具的開發商必須披露其在構建系統時所使用的任何受版權保護的材料。該協議可能為世界上第一部綜合性人工智能法律《人工智能法》鋪平道路。

雖然多國都已經開始對生成式AI進行監管，但上述做法都只是在尚未形成統一標準的背景下所做的探索。生成式AI為內容生產的方式帶來了史無前例的改變，如何更好地應對這種變化，仍然需要在實踐中不斷嘗試和優化。

編輯 | 唐吉訶德

排版 | 唐吉訶德