算法應用衍生出新風險 多部門聯(lián)合出新規(guī)劍指算法亂象

新年伊始，互聯(lián)網(wǎng)信息服務領(lǐng)域的嚴監(jiān)管仍在持續(xù)。2022年1月4日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》(以下簡稱規(guī)定)。規(guī)定將從2022年3月1日起施行，是我國首個互聯(lián)網(wǎng)信息服務領(lǐng)域具有針對性的算法推薦規(guī)章制度。中國商報記者注意到，規(guī)定不僅明確了算法推薦服務提供者的信息服務規(guī)范，還向流量造假、控制熱搜、誘導未成年人等問題亮劍。有專家認為，規(guī)定之下相關(guān)公司必將迎來“陣痛”。

算法應用衍生出新風險

在互聯(lián)網(wǎng)信息服務領(lǐng)域出臺具有針對性的算法推薦規(guī)章制度，是防范化解安全風險的需要，也是促進算法推薦服務健康發(fā)展、提升監(jiān)管能力水平的需要。

國家互聯(lián)網(wǎng)信息辦公室有關(guān)負責人表示，出臺規(guī)定主要基于以下兩個方面的考慮，一是深入推進互聯(lián)網(wǎng)信息服務算法綜合治理的需要。黨中央印發(fā)的《法治社會建設(shè)實施綱要(2020-2025年)》提出制定完善對算法推薦、深度偽造等新技術(shù)應用的規(guī)范管理辦法?！吨腥A人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》等法律和《關(guān)于加強互聯(lián)網(wǎng)信息服務算法綜合治理的指導意見》等政策文件先后出臺并作出相關(guān)頂層設(shè)計。

二是積極促進算法推薦服務規(guī)范健康發(fā)展的需要。算法應用日益普及深化，在給經(jīng)濟社會發(fā)展等方面注入新動能的同時，算法歧視、“大數(shù)據(jù)殺熟”、誘導沉迷等算法不合理應用導致的問題也深刻影響著正常的傳播秩序、市場秩序和社會秩序，給維護意識形態(tài)安全、社會公平公正和網(wǎng)民合法權(quán)益帶來挑戰(zhàn)，迫切需要對算法推薦服務建章立制、加強規(guī)范，著力提升防范化解算法推薦安全風險的能力，促進算法相關(guān)行業(yè)健康有序發(fā)展。

騰訊安全戰(zhàn)略研究中心聯(lián)合賽博研究院發(fā)布的《人工智能時代數(shù)字內(nèi)容治理的機遇與挑戰(zhàn)》報告顯示，算法精準推薦已經(jīng)占據(jù)信息流分發(fā)主導地位，算法能夠?qū)崿F(xiàn)數(shù)字內(nèi)容聚合和精準推薦，快速匹配信息與人?；谒惴ǖ膫€性化內(nèi)容推送在為用戶提供精準化、個性化服務的同時，也帶來了國家安全風險因素增高、不良信息泛濫風險增加，以及傳統(tǒng)權(quán)利保護難度加大等問題。

北京計算機學會數(shù)字經(jīng)濟專業(yè)委員會秘書長王娟也對中國商報記者表示，隨著平臺海量數(shù)據(jù)的積累，“大數(shù)據(jù)殺熟”、安全數(shù)據(jù)權(quán)限、流量制造明星等問題不斷出現(xiàn)。一段時間里，互聯(lián)網(wǎng)企業(yè)把問題主體甩給了算法，讓問題的解決走向空洞，而規(guī)定將對這些新問題、新現(xiàn)象作出進一步規(guī)范。

聚焦算法推薦亂象問題

中國商報記者梳理發(fā)現(xiàn)，規(guī)定中的亮點頗多，為應對算法推薦亂象提供指引和規(guī)范，聚焦違法和不良信息傳播問題，引導算法應用合理規(guī)范，同時聚焦操縱社會輿論亂象，引導算法應用公開透明。

規(guī)定明確了算法推薦服務提供者的信息服務規(guī)范，要求算法推薦服務提供者應當堅持主流價值導向，積極傳播正能量，不得利用算法推薦服務從事違法活動或者傳播違法信息，應當采取措施防范和抵制傳播不良信息;建立健全用戶注冊、信息發(fā)布審核、數(shù)據(jù)安全和個人信息保護、安全事件應急處置等管理制度和技術(shù)措施，定期審核、評估、驗證算法機制機理、模型、數(shù)據(jù)和應用結(jié)果等;建立健全用于識別違法和不良信息的特征庫，發(fā)現(xiàn)違法和不良信息的，應當采取相應的處置措施。

同時，規(guī)定要求加強用戶模型和用戶標簽管理，完善記入用戶模型的興趣點規(guī)則和用戶標簽管理規(guī)則;加強算法推薦服務版面頁面生態(tài)管理，建立完善人工干預和用戶自主選擇機制，在重點環(huán)節(jié)積極呈現(xiàn)符合主流價值導向的信息;規(guī)范開展互聯(lián)網(wǎng)新聞信息服務，不得生成合成虛假新聞信息或者傳播非國家規(guī)定范圍內(nèi)的單位發(fā)布的新聞信息;不得利用算法實施影響網(wǎng)絡(luò)輿論、規(guī)避監(jiān)督管理以及壟斷和不正當競爭行為。

規(guī)定明確了對于算法推薦服務提供者的用戶權(quán)益保護要求。一是算法知情權(quán)，要求告知用戶其提供算法推薦服務的情況，并公示服務的基本原理、目的意圖和主要運行機制等;二是算法選擇權(quán)，要求向用戶提供不針對其個人特征的選項，或者便捷的關(guān)閉算法推薦服務的選項。用戶選擇關(guān)閉算法推薦服務的，算法推薦服務提供者應當立即停止提供相關(guān)服務;三是針對向未成年人、老年人、勞動者、消費者等主體提供服務的算法推薦服務提供者作出具體規(guī)范。如不得利用算法推薦服務誘導未成年人沉迷網(wǎng)絡(luò)，應當便利老年人安全使用算法推薦服務。

而對具有輿論屬性或者社會動員能力的算法推薦服務提供者，應當在提供服務之日起十個工作日內(nèi)通過互聯(lián)網(wǎng)信息服務算法備案系統(tǒng)填報服務提供者的名稱、服務形式、應用領(lǐng)域、算法類型等備案信息，履行備案手續(xù)。同時，規(guī)定明確了備案編號標注、備案信息變更、備案注銷等相關(guān)事宜。

算法驅(qū)動平臺將受到哪些影響

規(guī)定中明確，應用算法推薦技術(shù)是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息。而在現(xiàn)有的App中，基于算法驅(qū)動的產(chǎn)品和平臺越來越多，它們又將受到哪些影響?

上海財經(jīng)大學研究員崔麗麗表示，互聯(lián)網(wǎng)平臺作為消除信息不對稱的先進技術(shù)代表，有責任維持技術(shù)手段的客觀性，反映流量的自然狀態(tài)，呈現(xiàn)真實的公眾意見，不應該因為商業(yè)利益的驅(qū)使在流量上作假。過去曾發(fā)生過一些涉及商業(yè)利益的新聞信息被操控的情況，這樣獲取商業(yè)利益是一種市場不公平的表現(xiàn)，甚至是不合法的。

不論是UGC(用戶生產(chǎn)內(nèi)容)還是PGC(專業(yè)生產(chǎn)內(nèi)容)平臺，內(nèi)容的審核以及對于受眾的推薦實際都有相應的規(guī)則，互聯(lián)網(wǎng)信息平臺已經(jīng)在形態(tài)上取代了過去的傳統(tǒng)媒體，因此可能具備了一定的公共設(shè)施屬性，所以信息的產(chǎn)生、審核和分發(fā)應該符合公允、客觀，以及符合事實等要求。

規(guī)定中也提到，算法推薦服務提供者應當加強算法推薦服務版面頁面生態(tài)管理，建立完善人工干預和用戶自主選擇機制，在首頁首屏、熱搜、精選、榜單類、彈窗等重點環(huán)節(jié)積極呈現(xiàn)符合主流價值導向的信息。算法推薦服務提供者不得利用算法虛假注冊賬號、非法交易賬號、操縱用戶賬號或者虛假點贊、評論、轉(zhuǎn)發(fā)，不得利用算法屏蔽信息、過度推薦、操縱榜單或者檢索結(jié)果排序、控制熱搜或者精選等干預信息呈現(xiàn)，實施影響網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)督管理行為。

西南政法大學數(shù)字經(jīng)濟與法制研究中心研究員鄧若翰表示，規(guī)定的出臺意味著算法推薦相關(guān)行業(yè)進入嚴監(jiān)管時代，必將在很大程度上提高算法驅(qū)動公司的合規(guī)成本，同時對“大數(shù)據(jù)殺熟”、信息繭房等問題的扼制也將在一定程度上縮減算法驅(qū)動公司企業(yè)的盈利空間，相關(guān)公司必將迎來“陣痛”，如何尋找規(guī)范化的盈利增長點成為擺在其面前的難題。

與此同時，可以預見的是，規(guī)范算法服務未來仍需要多方努力。國家互聯(lián)網(wǎng)信息辦公室有關(guān)負責人表示，算法推薦服務治理需要政府、企業(yè)、社會、網(wǎng)民等多方主體共同參與，推動算法推薦服務公正公平、規(guī)范透明，促進算法推薦服務向上向善，營造更加清朗的網(wǎng)絡(luò)空間。(記者 祖爽)