無視用戶隱私，大量 AI 應(yīng)用在共享你的數(shù)據(jù)

【資料圖】

如今距離 OpenAI 第一次將 ChatGPT 帶給大眾用戶已經(jīng)過去了半年之久，但畢竟再好的東西都有 " 保質(zhì)期 "，所以隨著時間的推移，大眾圍繞 AI 大模型的狂熱也逐漸褪去、其暗面也開始被大量討論。且不提早已被擺在臺面上的 AI 大模型生成內(nèi)容可能存在版權(quán)風(fēng)險，以及 AI 的倫理道德等過于虛無縹緲的話題，僅僅就其竊取用戶隱私這個問題，就足以讓外界對大模型提起十二萬分的注意了。

近日，美國一家律師事務(wù)所向加州北區(qū)聯(lián)邦法院提起集體訴訟，指控 OpenAI 和微軟使用互聯(lián)網(wǎng)抓取的信息來訓(xùn)練 ChatGPT 時，嚴(yán)重侵犯了大量用戶的版權(quán)和隱私，要求后者賠償 30 億美元。在這份長達(dá) 157 頁的訴狀中，原告指責(zé) OpenAI 盡管制定了購買和使用個人信息的協(xié)議，但包括賬戶信息、姓名、聯(lián)系方式、支付信息、聊天記錄等隱私數(shù)據(jù)都在未經(jīng)許可的情況下，被 OpenAI 和微軟收集、存儲、共享和披露。

如果說這家律所指控 OpenAI 和微軟更多的是在博眼球，那么網(wǎng)絡(luò)安全公司 Home Security Heroes 公布的一份研究數(shù)據(jù)，則可能更具現(xiàn)實(shí)意義。在該公司對蘋果 App Store 的研究中發(fā)現(xiàn)，有四分之三的 AI 相關(guān)應(yīng)用與第三方共享用戶數(shù)據(jù)。而在接受調(diào)查的 159 個應(yīng)用中發(fā)現(xiàn)，64% 的應(yīng)用會跟蹤用戶的個人數(shù)據(jù)，其中監(jiān)控用戶數(shù)據(jù)比例最大的一款 AI 應(yīng)用是 Brainly（一款數(shù)學(xué)求解應(yīng)用）。

除此之外，Google Assistant 與第三方共享了超過 35.71% 的用戶數(shù)據(jù)，語言教育應(yīng)用 Duolingo、圖像生成應(yīng)用 AI Arta 和 DaVinci，以及 AI 醫(yī)療應(yīng)用 K Health 則分別與第三方共享了多達(dá) 28.57% 的用戶數(shù)據(jù)。根據(jù) Home Security Heroes 方面的說法，從整體來看，有 54% 的 AI 應(yīng)用會跟蹤用戶數(shù)據(jù)。

毫無疑問，這樣的一組數(shù)字是相當(dāng)驚人的，畢竟 App Store 應(yīng)該是目前對應(yīng)用審核最為嚴(yán)格的應(yīng)用商店，而蘋果也是當(dāng)下對用戶隱私保護(hù)力度最強(qiáng)的消費(fèi)電子企業(yè)。因此也可想而知，在 Android 生態(tài)中，AI 應(yīng)用竊取用戶數(shù)據(jù)的情況大概率只會更加嚴(yán)重。

事實(shí)上，與第三方分享用戶數(shù)據(jù)自 Meta 的 " 劍橋門 " 以來，就是被整個行業(yè)非常忌諱的一件事，也很容易讓用戶聯(lián)想到企業(yè)本身對于個人隱私持漠視態(tài)度，因此近年來也是各大應(yīng)用商店嚴(yán)防死守的一點(diǎn)。

比如蘋果在 App Store 的審核指南中就明確寫到，" 從 App 中收集的數(shù)據(jù)不能與第三方共享，用于與提升用戶體驗(yàn)、軟件 / 硬件性能無關(guān)的功能，自助廣告必需遵守《蘋果開發(fā)者計(jì)劃許可協(xié)議》"。既然向第三方分享用戶數(shù)據(jù)是一個被蘋果禁止的行為，那么為什么這一大批 AI 應(yīng)用會選擇糊弄蘋果的審核人員，冒著被移出 App Store 的風(fēng)險也要這樣干呢？

其實(shí)這是因?yàn)?AI 應(yīng)用對于數(shù)據(jù)有著幾乎永無止境的渴求，它們像饕餮一般吞噬數(shù)據(jù)、以訓(xùn)練自家的模型。而 AI 的智能則是以數(shù)據(jù)為支撐的，機(jī)器學(xué)習(xí) / 深度學(xué)習(xí)技術(shù)的底座就是大量數(shù)據(jù)，也就是著名 AI 科學(xué)家吳恩達(dá)教授倡導(dǎo)的 Data-centric AI，它是一種以數(shù)據(jù)為中心的人工智能理念，強(qiáng)調(diào)數(shù)據(jù)在人工智能開發(fā)和應(yīng)用中的重要性。

傳統(tǒng)搭建 AI 模型的方法主要是聚焦迭代模型，數(shù)據(jù)也相對固定，通常會聚焦于幾個基準(zhǔn)數(shù)據(jù)集，然后設(shè)計(jì)各式各樣的模型去提高預(yù)測準(zhǔn)確率。但這一模式的缺陷也非常突出，準(zhǔn)確率高的模型只能確保 " 擬合 " 數(shù)據(jù)，并不一定意味著實(shí)際應(yīng)用中會有很好的表現(xiàn)，如今也已經(jīng)被邊緣化，目前用更大規(guī)模和更高質(zhì)量的數(shù)據(jù)來訓(xùn)練 AI，則成為了主流。

以 OpenAI 的 GPT 模型為例，從 GPT-1 到 ChatGPT、再到 GPT-4，所用的訓(xùn)練數(shù)據(jù)大體經(jīng)歷了以下變化，小數(shù)據(jù)規(guī)模數(shù)據(jù)——大規(guī)模數(shù)據(jù)——更大規(guī)模、更高質(zhì)量的數(shù)據(jù)——大規(guī)模的人類標(biāo)注的高質(zhì)量數(shù)據(jù)。畢竟所謂語言模型的訓(xùn)練和學(xué)習(xí)，就是從大量的數(shù)據(jù)中學(xué)習(xí)復(fù)雜的上下文聯(lián)系。而為了獲得更多的數(shù)據(jù)，OpenAI 更是四處出擊，例如它就以每年 200 萬美元的價格獲得了推特推文數(shù)據(jù)的訪問權(quán)限。

如果沒有持續(xù)的數(shù)據(jù)輸入，ChatGPT 就不可能完成向 GPT-4 的 " 進(jìn)化 "，而兩者間的一個顯著區(qū)別，就是 ChatGPT 的數(shù)據(jù)只截止到 2021 年、缺乏 2022 年及之后的數(shù)據(jù)。沒錯，隨著 AI 大模型概念的走紅，AI 相關(guān)企業(yè)如今已然成為了數(shù)據(jù)交易市場的大買家。

也正是因?yàn)檫@一事實(shí)，導(dǎo)致了現(xiàn)階段數(shù)據(jù)本身的價格水漲船高，掌握數(shù)據(jù)源頭的企業(yè)已經(jīng)開始哄抬物價。以前段時間鬧出不小風(fēng)波的 Reddit 為例，其所給出第三方抓取 5000 萬次內(nèi)容需支付 12000 美元的價格，顯然就已經(jīng)很高。

出于對數(shù)據(jù)的渴求，以及數(shù)據(jù)本身的價格原因，AI 應(yīng)用的開發(fā)者自然就有了強(qiáng)烈的從應(yīng)用內(nèi)收集用戶數(shù)據(jù)、并分享給第三方的動力。對于當(dāng)下的絕大多數(shù) AI 應(yīng)用而言，變賣數(shù)據(jù)或許是它們現(xiàn)階段所能找到、最具可行性的掙錢方式。而且目前會去下載 AI 應(yīng)用的用戶，基本都是對 AI 感興趣的人群，如何讓這一部分用戶的價值變得更大，顯然開發(fā)者沒有理由不動心。

事實(shí)上，肆意挖掘用戶隱私現(xiàn)象的泛濫，對于尚且稚嫩的 AI 生態(tài)本身而言有著極大的傷害，因此有識之士也紛紛站出來疾呼。谷歌 DeepMind 的首席商務(wù)官 Colin Murdoch 就表示，督促 AI 開發(fā)者專注于構(gòu)建一個 " 強(qiáng)大而負(fù)責(zé)任 " 的社群。只是想要遏制 AI 應(yīng)用的開發(fā)者違規(guī)挖掘用戶數(shù)據(jù)，還得應(yīng)用商店加強(qiáng)審核才行。

【本文圖片來自網(wǎng)絡(luò)】