張敏：提升算法公平性不會降低準(zhǔn)確性，二者可相互促進(jìn)

中新經(jīng)緯3月24日電 (王玉玲)近日，由中國人民大學(xué)高瓴人工智能學(xué)院、智能社會治理跨學(xué)科交叉平臺和基于大數(shù)據(jù)文科綜合訓(xùn)練國家級虛擬仿真實(shí)驗(yàn)教學(xué)中心聯(lián)合主辦的算法公平性與內(nèi)容生態(tài)建設(shè)研討會在線上舉行。清華大學(xué)計算機(jī)科學(xué)與技術(shù)系副教授張敏表示，非常高興看到越來越多的國際和國內(nèi)同行，開始從技術(shù)層面關(guān)注算法公平性的研究。

她表示，“公平性”在信息檢索領(lǐng)域主流學(xué)術(shù)會議中已經(jīng)受到廣泛的重視。早在2017年，張敏團(tuán)隊就已經(jīng)使用帕累托優(yōu)化來做推薦系統(tǒng)的群組推薦。該工作已經(jīng)被引用上百次，且在2020年以來激增。“我們使用帕累托優(yōu)化關(guān)注群組的公平性。在群組里面，如果優(yōu)化了對一個人的推薦，不會使群組中任何一個人受損，這樣的推薦就符合帕累托優(yōu)化。”張敏說道。

張敏指出，TikTok的推薦算法入選MITT echnology Review2021的“全球十大突破技術(shù)”，是算法公平性受到廣泛關(guān)注的一個典型事件。在TikTok算法中，推薦結(jié)果的產(chǎn)生不僅僅依靠博主的粉絲數(shù)和熱門視頻的數(shù)量，更重要的是將視頻標(biāo)題、聲音、內(nèi)容標(biāo)簽等屬性信息、以及與用戶觀看或點(diǎn)贊過的視頻、拍攝過的內(nèi)容等細(xì)分興趣領(lǐng)域相結(jié)合，融合基于協(xié)同過濾及內(nèi)容推薦的典型個性化推薦方法做出最終的推薦。由此，TikTok中普通用戶發(fā)布的視頻也有可能獲得與網(wǎng)紅視頻一樣甚至更多的推薦，此外，推薦算法還可以幫助用戶拓展其可能感興趣的新的細(xì)分領(lǐng)域的內(nèi)容，從而提升了用戶在新穎性和驚喜性方面的需求，這是推薦算法在公平性方面的一個代表性的成功的產(chǎn)業(yè)應(yīng)用。

接下來，張敏表示，在算法公平性中存在三大誤解，需要加以糾正與探討：第一，提升算法公平性并不總是會使準(zhǔn)確性下降，算法的準(zhǔn)確性和公平性可以實(shí)現(xiàn)雙贏。“早期相關(guān)研究中經(jīng)常發(fā)現(xiàn)，提升了系統(tǒng)公平性，總是會使得準(zhǔn)確性有所損失。但是隨著研究的不斷深入，在探究算法公平性和準(zhǔn)確性的關(guān)系上，我們近期的研究成果表明：提升公平性并不總是會使得推薦準(zhǔn)確性下降，我們在真實(shí)場景的大規(guī)模數(shù)據(jù)上的實(shí)驗(yàn)結(jié)果，已經(jīng)實(shí)現(xiàn)了在提升公平性的同時還能提升推薦系統(tǒng)的精準(zhǔn)性。”張敏說道。

第二，“公平”與“無偏”并不等同。比如位置偏置在推薦系統(tǒng)中一定存在，位置靠前的推薦結(jié)果被用戶看到的可能性就會更大，這是客觀事實(shí)。“一方面，公平的系統(tǒng)不一定是無偏的；另一方面，無偏的系統(tǒng)也可能仍然存在不公平性。但是二者有關(guān)聯(lián)性。比如不同時間購買的機(jī)票，機(jī)票的價格可能會有所不同，但這并不是不公平的現(xiàn)象。因此，研究公平性需要關(guān)注的是那些表面上看起來無差別，但其實(shí)有可能帶來不公平現(xiàn)象的因素或者場景。因此，我們追求的不是、也不可能實(shí)現(xiàn)完全無偏的系統(tǒng)，關(guān)鍵在于算法的設(shè)計要考慮系統(tǒng)中存在的偏置。如果將偏見因素考慮進(jìn)算法的設(shè)計過程中，那推薦結(jié)果有可能更公平一些。”張敏說道。

第三，對于個性化和公平性是否有沖突，“前面我們已經(jīng)探討和驗(yàn)證了提升算法公平性并不會使準(zhǔn)確性下降，算法的準(zhǔn)確性和公平性可以實(shí)現(xiàn)雙贏，而對于個性化和公平性，我直覺上認(rèn)為它不一定有沖突，但還需要更多探討。”張敏說道。

此外，張敏還分享了算法公平性研究的經(jīng)驗(yàn)。第一，公平性問題非常復(fù)雜，其定義有多個標(biāo)準(zhǔn)，比如過程公平、結(jié)果公平；個體公平、群體公平；單一公平、均攤公平等。由此，對算法公平性的研究允許復(fù)雜的公平性定義，但需要透徹理解不同公平性定義的適用場景和范圍。

最后，還需要設(shè)計和構(gòu)建的用于公平性研究的數(shù)據(jù)集、評估標(biāo)準(zhǔn)，以及測評方法。“我覺得是時候?qū)碜圆煌I(lǐng)域的專家和學(xué)者聯(lián)合起來，通過交叉領(lǐng)域的融合，共同推進(jìn)不同場景下的算法公平性研究。”張敏說道。(中新經(jīng)緯APP)