OpenAI 正在測試內(nèi)容審核功能，可提高審核效率并減少人工參與

(資料圖片)

IT 之家 8 月 16 日消息，日前，人工智能初創(chuàng)公司 OpenAI 表示，GPT-4 正在測試內(nèi)容審核功能，任何擁有 OpenAI API 訪問權(quán)限的人都可以使用這種方法來創(chuàng)建自己的人工智能輔助審核系統(tǒng)。

IT 之家從 OpenAI 官網(wǎng)了解到，GPT-4 可用于制定適當?shù)膬?nèi)容政策，并可以更快地為帖子添加標簽或作出評判。該公司一直在測試該技術(shù)，并邀請客戶也進行試驗。借助該系統(tǒng)，開發(fā)和制定內(nèi)容策略的過程從幾個月縮短到幾個小時。

OpenAI 稱，該功能為數(shù)字平臺的未來提供了更積極的愿景，人工智能可以根據(jù)平臺特定的政策幫助調(diào)節(jié)在線流量，并減輕大量人類審核員的精神負擔。

▲ AI 審核（LLM）與初級審核員（pool B）效率相當

與傳統(tǒng)審核相比，OpenAI 審核具有以下優(yōu)點：

標簽更加一致。內(nèi)容政策不斷發(fā)展并且通常非常詳細。人們可能會對政策有不同的解釋，或者一些版主可能需要更長的時間來消化新的政策變化，從而導(dǎo)致標簽不一致。相比之下，法學碩士對措辭的細微差異很敏感，可以立即適應(yīng)政策更新，為用戶提供一致的內(nèi)容體驗。

更快地反饋循環(huán)。政策更新的周期 —— 制定新政策、貼標簽和收集人類反饋 —— 往往是一個漫長而漫長的過程。GPT-4 可以將這一過程縮短至幾個小時，從而能夠更快地響應(yīng)新的危害。

減輕精神負擔。持續(xù)接觸有害或令人反感的內(nèi)容可能會導(dǎo)致審核人員情緒疲憊和心理壓力。自動化此類工作有利于相關(guān)人員的福祉。