注意警惕！GPT 檢測器也會造假

生成式人工智能的發(fā)展像極了脫韁的野馬，若光顧著跑，遲早會把馬術(shù)不精的人狠狠地摔下來。

2022 年 11 月 30 日，人工智能對話聊天機(jī)器人 ChatGPT 正式推出，迅速在社交媒體上走紅，短短 5 天，注冊用戶數(shù)就超過 100 萬，兩個月，ChatGPT 的月活用戶已突破 1 億，成為史上增長最快的消費者用戶。

面對生成式人工智能的來勢洶洶，顯然并不是所有人都已經(jīng)準(zhǔn)備好了。

【資料圖】

今年 1 月初，紐約市教育部就宣布禁止學(xué)生在其學(xué)校的設(shè)備和網(wǎng)絡(luò)上使用 ChatGPT，以預(yù)防學(xué)生的作弊行為。法國巴黎政治學(xué)院（Sciences Po）也在 1 月末正式發(fā)出通知，禁止各校區(qū)全體學(xué)生及教職工利用 ChatGPT 完成教學(xué)任務(wù)，成為歐洲首個對 ChatGPT 實行「全面封禁」的學(xué)校。

隨著時間來到 7 月份，在生成式人工智能百花齊放，百家爭鳴的大環(huán)境下，國外一些教育界人士開始順應(yīng)時代的大潮，主動擁抱生成式人工智能。

英國 24 所羅素集團(tuán)研究型大學(xué)的校長近日聯(lián)合制定并簽署了一項準(zhǔn)則，旨在向?qū)W生和教職員工明確指出哪些地方不適合使用生成式人工智能，支持他們作出明智的決策，并授權(quán)他們正確使用這些工具，并在必要時承認(rèn)其使用。

如今在他們看來，只要正確使用生成式人工智能，這對教育是大有裨益的，不過，在這之前，或許他們還得警惕一些「小麻煩」。

在教育領(lǐng)域，將 ChatGPT 應(yīng)用于學(xué)生作業(yè)的完成已經(jīng)不是新鮮事了，許多教師也開始將人工智能檢測視為：「阻止 21 世紀(jì)作弊形式的關(guān)鍵對策」

但研究表明，一些人工智能檢測器存在著歧視和誤導(dǎo)的情況。

近期，斯坦福大學(xué)生生物醫(yī)學(xué)數(shù)據(jù)科學(xué)助理教授 James Zou 領(lǐng)導(dǎo)一眾科學(xué)家，使用 7 個流行的 GPT 檢測器評估了 91 篇由非英語母語人士撰寫的托福（鑒定非英語為母語者的英語能力考試）作文。

研究發(fā)現(xiàn)，在所有 7 個 GPT 檢測器中，由非英語母語人士撰寫的超過一半的作文被錯誤地標(biāo)記為由人工智能生成，甚至有一個檢測器錯誤地將近 98% 的作文標(biāo)注為由人工智能生成。

而將以英語為母語的八年級學(xué)生寫的作文經(jīng)過檢測后發(fā)現(xiàn)，同樣的人工智能檢測器將超過 90% 的作文標(biāo)注為由人類生成。

在追溯這種帶有內(nèi)在偏見的歧視時，研究人員發(fā)現(xiàn)，生成式人工智能在經(jīng)過大規(guī)模的預(yù)訓(xùn)練后可以生成低復(fù)雜度的文本，這也就意味著如果人類在寫作中以熟悉的模式使用大量常用單詞，那么就會極大增加被標(biāo)注為由人工智能生成的風(fēng)險，而非英語母語人士之所以面臨的風(fēng)險更大，正是因為他們更有可能使用更簡單的詞匯。

這種歧視所帶來的影響是值得關(guān)注的。研究人員也警告道：「GPT 檢測器對非母語作家的影響是嚴(yán)重的」同時其還補充道：「在教育領(lǐng)域，可以說是 GPT 檢測器最重要的市場，非母語學(xué)生面臨更多被虛假指控作弊的風(fēng)險，這可能不利于學(xué)生的學(xué)術(shù)生涯和心理健康?！?/p>

因此，在思考生成式人工智能是教育的「良藥」還是「毒藥」之前，或許還得先解決這些「小麻煩」。