今日關注：新思路、新舉措：專家學者探討人工智能安全與個人信息保護

(相關資料圖)

中國經濟網合肥9月6日訊（記者王婉瑩）2022國家網絡安全宣傳周“人工智能與個人信息保護論壇” 6日在安徽合肥舉辦。企業代表及專家學者站在“十四五”的新起點上，剖析人工智能行業發展現狀，把握人工智能行業發展脈搏，研判人工智能行業發展趨勢及堅守發展與安全為底線的原則，用新思路和新舉措推動人工智能產業發展邁上新臺階，讓人工智能產業發展更好地造福人民。

本次論壇圍繞“筑牢個人信息保護防線，促進人工智能健康發展”主題展開研討，并以“共建個人信息保護防線”為主題開展圓桌論壇。

安徽省委網信辦副主任文霞平認為，應形成數據安全使用共識，平衡好人工智能發展與個人信息安全的關系。

科大訊飛總裁吳曉如介紹了當前我國人工智能技術的進展，他指出，人工智能技術具有重要的戰略地位，亦是國家“十四五”期間重點攻關的科技前沿領域之一。人工智能技術作為強大的數據處理工具，在個人隱私保護上具有更強大的數字經濟推動力，同時也要關注人工智能在個人隱私保護中要堅守的底線和責任。

“比如，在安全管理體系上落實安全組織，制定規范流程，從頂層設計層面保障安全資源；在安全技術體系上，以可用、可信、可靠的安全技術，形成安全能力的堅實基礎；在產品安全體系上，將產品安全活動內建于產研管理流程，從源頭降低安全風險；在個人信息保護體系上，形成全面覆蓋業務場景的隱私保護機制，保障個人隱私信息數據生命周期的安全。”吳曉如說。

談及信息安全，中科院計算所研究員、博導山世光指出，個人隱私信息保護至關重要，其核心目標是去標識化，破解既要應用又要安全的難題，使數據“可用不可見”。他提出，有三類方法可應對：以加密為核心的隱私保護、可信聯邦學習、反制AI系統，可以主動避免信息被收集。

清華大學交叉信息研究院兼職教授，慧安金科（北京）科技有限公司創始人、CEO黃玲坦言，在互聯網和大數據時代背景下，在線業務面臨欺詐風險的嚴峻挑戰，人工智能在金融安全領域可以在賬戶安全、企業風控、交易反欺詐、反洗錢這四方面提供解決方案，有望通過開創性使用半監督機器學習技術解決行業痛點。

關于人工智能安全性，在阿里巴巴集團副總裁、中國網絡空間安全協會副理事長錢磊看來，在人工智能技術的應用過程中，特別是在用戶利益相關的場景，要警惕技術誤用或濫用和個人信息的濫用這兩大類風險。在消費者隱私保護方面，“形成從算法評估、風險檢測、干預機制的全生命周期風險管理流程，并重點推動算法治理、隱私保護、倫理制度建設等工作，探索相關前沿技術，提升整體科技自省自律水平。”