用ChatGPT半小時(shí)寫成本科論文！ “反ChatGPT”束手無(wú)策？-每日熱議

【TechWeb】2月22日消息，在B站，有up主分享了自己用ChatGPT耗時(shí)僅僅半個(gè)小時(shí)寫成的本科論文，順利通過(guò)國(guó)內(nèi)某查重網(wǎng)站檢查，查重率不到9%。但是卻也發(fā)現(xiàn)，ChatGPT所寫論文中“言之鑿鑿”列舉出的參考文獻(xiàn)居然大多都是“編造”的、根本不存在的文獻(xiàn)。

根據(jù)國(guó)外Study.com網(wǎng)站在今年1月向1000名18歲以上學(xué)生發(fā)起的調(diào)查顯示，48%的學(xué)生用ChatGPT完成小測(cè)驗(yàn)，53%的學(xué)生用ChatGPT寫論文。

【資料圖】

ChatGPT在撰寫格式論文、通過(guò)專業(yè)考試等領(lǐng)域的驚艷表現(xiàn)，讓學(xué)生們歡呼雀躍的同時(shí)，也讓高校、研究機(jī)構(gòu)等率先擔(dān)憂和警惕起來(lái)，“反ChatGPT”在學(xué)術(shù)圈率先成為一股新趨勢(shì)。

近日，香港大學(xué)向師生發(fā)出內(nèi)部郵件，表明禁止在港大所有課堂、作業(yè)和評(píng)估中使用ChatGPT或其他AI工具。如教師懷疑學(xué)生使用ChatGPT或其他AI工具，可要求學(xué)生就其作業(yè)進(jìn)行討論、進(jìn)行額外口試及考試等措施。

上周，《暨南學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)》、《天津師范大學(xué)學(xué)報(bào)(基礎(chǔ)教育版)》發(fā)布聲明，提出暫不接受任何大型語(yǔ)言模型工具(例如：ChatGPT)單獨(dú)或聯(lián)合署名的文章。

在美國(guó)和歐洲，更多高校和學(xué)術(shù)期刊等對(duì)ChatGPT的封殺通知出得更早一些。

但是，單純提出“封殺ChatGPT”就能杜絕論文抄襲和剽竊了嗎？

此前大熱的“AI換臉”應(yīng)用曾催生出一批“反AI換臉”的鑒別工具。現(xiàn)在，鑒別是否ChatGPT生成的論文，是否有可行的方法呢？

聚焦在針對(duì)合成音視頻的鑒別技術(shù)研發(fā)的瑞萊智慧（RealAI），其副總裁唐家渝向TechWeb表示，目前鑒別ChatGPT生成物的難點(diǎn)在于，機(jī)器與人類撰寫的文本差異性特征較少，機(jī)器合成文本的結(jié)果無(wú)論從結(jié)構(gòu)和語(yǔ)義角度都能較好地遵循人類書寫的規(guī)則，同時(shí)一個(gè)真人說(shuō)話的方式也可能是多變的、結(jié)構(gòu)有誤的，因此很難單純從文本本身就鑒別出是否由ChatGPT生成。目前，RealAI針對(duì)合成文本的鑒別能力已在建設(shè)中，近期會(huì)有demo推出。

數(shù)字水印用來(lái)“反ChatGPT”是一廂情愿

在“反ChatGPT”的技術(shù)流中，數(shù)字水印技術(shù)一度被熱炒。但是數(shù)字水印真能用來(lái)反ChatGPT嗎？

數(shù)字水印是一種可以用于保護(hù)文本、圖像、音頻和視頻等數(shù)字內(nèi)容不受未經(jīng)授權(quán)的復(fù)制和分發(fā)的技術(shù)。數(shù)字水印可以將一些隱蔽的標(biāo)識(shí)信息嵌入到數(shù)字內(nèi)容中，這些標(biāo)識(shí)信息通常不會(huì)對(duì)數(shù)字內(nèi)容本身造成影響，但可以幫助鑒別數(shù)字內(nèi)容的真實(shí)來(lái)源和版權(quán)信息。

人們對(duì)用數(shù)字水印反ChatGPT有兩種想象。

一種是，對(duì)ChatGPT生成的內(nèi)容打上數(shù)字水印，以標(biāo)明這些內(nèi)容是ChatGPT所寫，實(shí)現(xiàn)反ChatGPT。但這需要ChatGPT等AI內(nèi)容生成公司的配合，也就是他們?cè)敢膺@么做。

ChatGPT的開發(fā)商Open AI此前曾表示在考慮通過(guò)對(duì)AI系統(tǒng)生成的內(nèi)容加水印的方法來(lái)輔助辨別文本是否出自AI。不過(guò)截止目前并沒有看到Open AI采取該項(xiàng)行動(dòng)。

就算AI內(nèi)容生成企業(yè)愿意在生成的內(nèi)容中加入數(shù)字水印，但在相關(guān)行業(yè)專家看來(lái)，數(shù)字水印只是一個(gè)技術(shù)手段，不能解決所有的抄襲問(wèn)題。有些人可能會(huì)使用各種方法來(lái)刪除數(shù)字水印，或者通過(guò)改變一些單詞或句子的順序來(lái)規(guī)避數(shù)字水印的檢測(cè)。

AI生成內(nèi)容通常是基于大量的訓(xùn)練數(shù)據(jù)和模型參數(shù)生成的。用數(shù)字水印反ChatGPT的另一種想象是，把內(nèi)容打上數(shù)字水印標(biāo)明版權(quán)身份，避免被ChatGPT等AI模型用于訓(xùn)練，從而防止被模仿和抄襲。

但是這種想法多少有點(diǎn)一廂情愿。數(shù)字水印并不能完全保證內(nèi)容不會(huì)被用于訓(xùn)練模型。一些不法分子可能會(huì)使用各種技術(shù)手段來(lái)嘗試刪除數(shù)字水印，或者通過(guò)對(duì)文章進(jìn)行修改來(lái)繞過(guò)數(shù)字水印的檢測(cè)。此外，一些不道德的人也可能會(huì)無(wú)視數(shù)字水印，盜用版權(quán)內(nèi)容作為訓(xùn)練數(shù)據(jù)。

“反ChatGPT”這些“神器”或可一用

目前用于檢測(cè)文章是否由AI生成的工具全球有幾款，包括：

OpenAI GPT-3 Playground：由OpenAI開發(fā)的一個(gè)在線應(yīng)用程序，用于測(cè)試和探索人工智能語(yǔ)言模型GPT-3的功能。在這個(gè)應(yīng)用程序中，可以輸入一些文本，并由GPT-3模型自動(dòng)生成下一句話或者完整的文章。這個(gè)應(yīng)用程序也可以用來(lái)測(cè)試一篇文章是否是由GPT-3等語(yǔ)言模型生成的。

Grover：由Allen Institute for Artificial Intelligence開發(fā)的一個(gè)用于檢測(cè)虛假新聞和偽造的文章的工具。Grover可以分析一篇文章的語(yǔ)言風(fēng)格和結(jié)構(gòu)，并嘗試區(qū)分由人類和人工智能生成的文章。這個(gè)工具還可以識(shí)別一些常見的偽造手段和技巧。

AI21 Writer’s Studio：AI21 Labs開發(fā)的一個(gè)在線寫作工具，可以為用戶提供自動(dòng)建議和編輯服務(wù)，幫助他們寫出更加流暢和準(zhǔn)確的文章。這個(gè)工具也可以用于檢測(cè)一篇文章是否是由人工智能生成的。

Botometer：由Indiana University和University of Southern California聯(lián)合開發(fā)的一個(gè)Twitter機(jī)器人檢測(cè)工具。Botometer可以分析一個(gè)Twitter賬號(hào)的活動(dòng)和行為，判斷其是否是由一個(gè)真實(shí)的用戶或者一個(gè)自動(dòng)化機(jī)器人管理的。

上述這些工具都可以用于檢測(cè)一篇文章或論文是否由人工智能生成的，但是需要注意的是，它們都不是百分之百準(zhǔn)確的。

因此，在評(píng)估一篇文章或論文是否AI所寫時(shí)，最好結(jié)合多種方法和技巧，進(jìn)行綜合分析和判斷。

以ChatGPT為例，唐家渝向TechWeb提到，“辯別“ChatGPT”生成物一是利用好查重機(jī)制和技術(shù)，防止ChatGPT通過(guò)改寫、總結(jié)等方式生成學(xué)術(shù)文章；二是從內(nèi)容本身來(lái)說(shuō)，ChatGPT目前還不能完全保證學(xué)術(shù)文章的邏輯嚴(yán)謹(jǐn)、主題一致，可以從語(yǔ)義層面加以辨別。”

另外，從B站up主分享的ChatGPT寫出的本科論文的情況來(lái)看，檢查文章的來(lái)源和背景，如果這篇論文來(lái)自一個(gè)未知或者不可信的來(lái)源，就需要更加謹(jǐn)慎地對(duì)它進(jìn)行評(píng)估了。

關(guān)于ChatGPT可能引發(fā)的論文抄襲現(xiàn)象，前新東方在線 COO潘欣則認(rèn)為“這種擔(dān)憂基本不需要。”“沒有 ChatGPT 的時(shí)候就沒有抄論文、抄作業(yè)的了嗎？可以信一點(diǎn)就行了，能用技術(shù)導(dǎo)致出現(xiàn)的問(wèn)題，一定可以靠技術(shù)+行政手段解決掉。”

在學(xué)生黨看來(lái)，用ChatGPT寫論文，里面數(shù)據(jù)，論據(jù)甚至引用的文獻(xiàn)都是瞎編的，建議讓ChatGPT做些輔助工作就好，比如給論文大綱或大致方向的建議等。

也有學(xué)生認(rèn)為需要自律，“反ChatGPT軟件陸續(xù)上線，算法只會(huì)越來(lái)越完善，就算現(xiàn)在蒙混過(guò)關(guān)過(guò)關(guān)，但被查出來(lái)只是時(shí)間問(wèn)題。”