requestId:68d02f9a99ce94.93061730.
中國網/中國發展門戶網訊 大數據與信息技術的迅猛發展及其與物理世界的深度融合，形成了空前繁榮的網絡社會。網絡社會中個體緊密聯系，交互頻繁，呈現出開放、高效、交互、個性化等特征。網絡社會重塑了傳統社會中的通信與交互方式，釋放了社會交互中蘊含的巨大生產力。與此同時，網絡社會中出現了電信詐騙、隱私泄漏、網絡暴力、網絡公害、算法歧視等種種問題，給社會秩序與安全帶來新的挑戰。為探索如何應對該挑戰，尋找網絡社會治理途徑，推動國家治理現代化建設，本文在 3 個典型的網絡社會場景下，分析與闡明網絡社會治理關鍵挑戰，并從芯片、系統和算法 3 個層面提出網絡社會現代治理的技術對策。
網絡社會治理的挑戰
本文在用戶身份治理、網絡行為治理和算法治理 3 個典型場景下，首先分析網絡社會中遇到的新問題，及其對經濟、社會與安全造成的風險，并進一步闡明治理這些問題所遇到的關鍵挑戰。
用戶身份治理面臨嚴峻挑戰
網絡用戶信息泄露事件層出不窮。在享受互聯網帶來的便利的同時，用戶也將個人信息上傳到了互聯網中。這些信息往往帶有使用者的隱私，一旦出現數據泄露，會產生嚴重影響。隱私數據必須滿足“有限公開”原則，即只有授權用戶——通過身份認證的大圖輸出用戶，才能搜索到授權允許訪問的信息。例如，2014 年，國內兩個大型物流公司的內部網絡系統遭到黑客攻擊，1 400 多萬條快遞信息遭到泄露；迄今為止最大的數據泄露事故發生在 2013 年 8 月，黑客獲取了 30 億雅虎用戶的姓名、出生日期等隱私信息，給用戶帶來了極大的安全隱患。攻擊者可以利用被泄露的隱私數據，使用被攻擊者的身份在網絡上發布傳播消息，以獲取巨大的利益，造成嚴重的影響。
現有網絡訪問控制身份認證技術存在重大安全隱患。目前最常見的身份認證技術為靜態口令認證技術，每一個用戶都擁有一個用戶名/密碼。當用戶申請訪問時，系統對用戶的用戶名和對應的密碼進行驗證，這種方法簡單且有效。但隨著互聯網的發展，這種簡單的方法也開始顯現出弊端。算力的提升使得攻擊者可以對密碼進行窮舉攻擊，這一攻擊方式在用戶個人隱私信息泄露時會變得更加有效——攻擊者可以通過用戶的隱私信息推測用戶的密碼，從而降低攻擊者的時間成本。同時有調查顯示對于大量不同的賬戶，絕大多數用戶選擇使用相同或者數量遠小于賬戶數量的靜態密碼，因此如果攻擊者成功攻擊了某用戶的賬戶，那么該用戶的其他賬戶大概率受也會到攻擊者的攻擊。動態口令技術是由靜態口令技術演變而來的，相較于靜態口令其具有更好的安全性，能夠短暫地維護用戶的信息安全。除此之外，若軟件系統本身存在漏洞，攻擊者也可以通過該漏洞獲取訪問存放驗證口令的服務器的權限或能夠直接訪問某用戶，如黑客對智能汽車、智能家居設備的入參展侵事件也屢屢發生。因此軟件本身可能存在的漏洞也是在設計身份認證技術中所需要考慮的問題。
用戶身份虛擬偽裝技術演進迅猛平面設計。在沒有強有力的用戶身份認證與管理手段的條件下，當用戶的信息出現泄露時，攻擊者可以利用泄露的隱私信息，訪問被攻擊者的賬戶以達成攻擊目的。相反，當用戶數據沒有泄露時，攻擊者也可以通過模擬偽造用戶的數據來實現攻擊。現有的研究工作表明，攻擊者可以通過對抗樣本生成偽裝的用戶聲音，通過偽基站來偽造虛假的通信身份信息及通過對抗攻擊的方法生成能夠誤導身份識別系統的圖像等。冒充公檢法來進行電信詐騙就是一個典型的例子，攻擊者利用特殊計算機軟件，通過偽造、冒充執法人員身份的方式，向被攻擊者索要全息投影錢財以達到自己的目的。在 2017 年中央電視臺 3·15 晚會中，主持人現場演示了通過一張生成的照片并通過了人臉識別系統。除此之外，攻擊者通過特殊的網絡軟件偽造聲音，偽造特殊身份發送短信、撥打電話、生成圖片的事例屢見不鮮，因此加強網絡用戶身份認證及規范行為勢在必行。
綜上，無論用戶數據是否存在泄露的情況，攻擊者總能采取手記者會段偽造用戶身份，以謀取自身的利益。因此我們強調網絡用戶身份治理的重要性，將其看作網絡社會發展中一個重要且亟待解決的問題。上述問題主要存在于軟件層面，而硬件方面存在的問題也會影響用戶數據的隱私，進而產生一系列的信息安全問題。
網絡行為治理面臨緊迫挑戰
網絡空間在給人們帶來自由表達的便利的同時，網絡空間中的個體及群體行為也正變得異常龐雜，而且奇藝果影像泥沙俱下、良莠不齊。不良網絡內容泛濫、網絡違法犯罪活動猖獗、網絡空間對抗經典大圖與博弈等違法違規網絡行為已經愈演愈烈，嚴重威脅網絡空間與現實社會的安全穩定與健康發展。
不良網絡內容泛濫。互聯網與數字技術的蓬勃發展，一方面帶來了豐富的信息內容，另一方面也帶來了虛假謠言、低俗拜金、暴力反動等不良網絡內容的泛濫。虛假謠言信息內容在網絡空間中大肆傳播、滋長蔓延會嚴重影響社會秩序，已經成為一大公害。短視頻平臺和直播平臺存在大量低俗內容，利用主播搭訕、誘惑打賞等低俗手段博人眼球，傳播如種族歧視、性別歧視、拜金主義等不良內容。網絡游戲平臺存在大量血腥、暴力、恐怖等不良內容，宣揚暴力極端主義、恐怖主義等極端思想。這些不良網絡內容利用鉆法律空子、打擦邊球等方式誘導大眾點擊與關注并從中牟利，對網民尤其是未成年人和青少年人形成不良導向，影響身心健康。
網絡違法犯罪活動猖獗。網絡空間中的網絡詐騙、網絡賭博、網絡傳銷、網絡非法集資等違法犯罪活動十分猖獗。中國互聯網絡信息中心統平面設計計發現，截至 2022 年 6 月，我國 17.8% 的網民曾經遭遇過網絡詐騙，較 2021 年增加了 1.2 個百分點，其中占比最多的網絡詐騙包括虛假中獎信息詐騙、網絡購物詐騙、冒充好友詐騙和釣魚網站詐騙等。中國司法大數據研究院分析了從 2017 年 1 月至 2021 年 12 月我國信息網絡犯罪案件的特點和趨勢，發現網絡AR擴增實境詐騙罪案件量占比最高，達到 36.5%。這些網絡詐騙案件多以辦理貸款、冒充他人身份、虛假招聘等方式或話術來欺騙受害人，給受害人財產造成重大損失，而且目前網絡犯罪案件量呈現出逐年上升的趨勢，需要格外重視。
網絡空間虛假信息傳播與博弈。網絡空間已經成為領土、領海、領空之外的第四種主權疆域。網絡“水軍”、網絡公關等產生的虛假信息傳播與博弈已經成為常態。網絡平臺的虛假實體、虛擬用戶背后的操控系統能夠堂而皇之利用各種技術手段，系統傳播虛假信息、謠言、偏見，實現輿情對抗與博弈，已經成為危害網絡空間內容安全的重大威脅。
算法治理面臨多維度挑戰
近年來，以機器學習算法為主導的人工智能技術已成為各大網絡平臺的核心驅動力，其在加速信息傳播、便捷百姓生活、繁榮數字經濟和促進社會發展等方面發揮了重要作用。與此同時，由于在公平性、透明性和安全性方面的缺陷，機器學習算法的不合理應用對網絡社會的正常秩序帶來了多維度挑戰，影響到社會公平公正、網民合法權益及虛擬財產安全等諸多方面。算法的應用風險和治理挑戰已成為各界關注的焦點。
算法歧視普遍存在。基于大數據與機器學習算法的自動決策系統被廣泛用于提供個性化的輔助決策，例如電影推薦、貸款申請、廣告投放、求職和約會等。算法歧視是指由數據和算法的偏向性導致的決策偏奇藝果影像見。一種典型的算法歧視被稱作大數據“殺熟”，其表現為同物不同價，平臺算法依據大數據推斷用戶的價格敏感度，并針對性地進行差異化商品標價。北京市消費者協會 2022 年發布的《大數據“殺熟”問題調查報告》顯示超六成受訪者曾遭遇過大數據“殺熟”，而購物、旅游與外賣類網絡平臺是大數據“殺熟”的重災區。網絡平臺算法也常存在性別與種族偏見。2019 年，臉書公司開展了一次算法中立性測試，測試通過算法向全球投放科研崗位的招聘廣告，在全部人為環節都保證性別中立的前提下，算法最終產生了有性別偏見的廣告展示結果。可以看出，網絡平臺中的算法歧視不僅損害用戶的合法權益，同時影響社會應有的公平公正，擾亂社會正常秩序。造成算法歧視普遍存在的主要原因是算法的價值預設和數據的采集偏向：首先，算法由網絡平臺所設計和研發，本身蘊含預設的價值偏見，并非完全客觀；其次，算法依賴的訓練數據往往并非中立，數據采集范圍存在偏向，造成算法異化，形成算法歧視。
算法安全風險日益凸顯。研究表明深度神經網絡等算法存在內生的脆弱性，攻擊者能夠利用微小的對抗擾動或后門攻擊，在物理世界實現對算法決策的任意操縱。對抗魯棒性和泛化能力等表達能力的缺陷，導致了深度學習算法在應用領域中，尤其是自動駕駛、智能醫療等容錯率低的關鍵應用中的潛在安全隱患。例如，人臉識別算法具有高準確率、高效率、非接觸性識別等優點，成為網絡平臺身份驗證的主流方式之一。2021 年 RealAI 經典大圖公司利用基于算法漏洞特制的眼鏡，成功欺騙了 19 款手機搭載的人臉識別算法。另一項研究顯示，將一張用簡單打印出的涂鴉貼畫貼在真實的路牌上，就可以“迷惑”人工智能自動駕駛系統，使其做出錯誤決策。隨著深度學習技術的廣泛應用，算法安全隱患帶來的風險日益凸顯，逐漸成為制約網絡平臺與人工智能技術發展的瓶頸。
“黑盒”算法監管困難重重。平臺算法治理的另一挑戰來自監管困難。一方面，網絡平臺用戶的所見只有算法輸出，難以監督算法的決策過程。另一方面，由于大多算法屬于不透明的“黑盒”算法，人類難以理解算法究竟如何做出決策，平臺監管者同樣難以判斷算法決策是否公平、合理、可信賴。部分網絡平臺還可能以商業秘密為由，逃避外界對算法的監管。打開“黑箱”算法攤位設計，將算法隱患與風險置于在監管視野之內，是算法治理的基礎和必要前提。
網絡社會治理的技術對策
基于安全芯片與管控系統的治理對策
由于移動辦公已經成為日常工作模式，政府、醫療、金融等并非最高安全等級的部門與行業，必須要在外部訪問單位的業務內網處理日常業務，需求量巨大。鑒于內網高安全性要求，常用的安全網關、虛擬專用網絡（VPN）等網絡安全技術無法保證內外網訪問的安全。
要從根本上快速解決和緩解上述網絡安全問題，必須從網絡安全芯片底層設計做起。一方面保護數據資源免于非授權訪問、篡改，另一方面，建立芯片級安全通信專用通道，實現數據和通道兩個方面的芯片級策略化安全隔離。網絡安全芯片底層設計的主要優勢在于增加系統安全性的同時，極大地提高數據處理效率，策略化的安全隔離，規避了以易用性為代價的簡單物理隔離。具體而言，使用純軟件的方法實現網絡安全加解密、身份認證、網絡入侵檢測等算法沈浸式體驗存在較多缺陷，如執行各類算法的時間較長、資源消耗較大，且難以實現密鑰等機密資源的安全存儲。因此，集成一種或多種密碼算法的集成電路芯片，即安全芯片，可從硬件層面來解決上述問開幕活動題，在增加系統安全性的同時，可極大地提高效率。
傳統的網絡安全芯片防護如圖 1 所示，這種工作模式雖然能夠實現對網絡傳輸的加密，在硬件層面保護敏感數據通信安全，但系統本身容易受到網絡攻擊，很難保障自身安全。針對以上問題，我們提出了新型網絡安全管控芯片和系統的架構，主要包含數據安全單元、網絡安全管控單元與網絡數據處理單元，如圖 2 所示，實現敏感數據的隔離、網絡訪問控制、安全模式熱切換、身份的認證校驗。網絡數據處理單元，與加解密算法控制引擎進行通信，利用加解密算法控制引擎對當前數據包中的載荷進行加解密，并完成網絡協議中的校驗。
如圖 3 所示，基于網絡安全管控芯片，研發基于安全管控芯片的安全智能終端（例如移動終端），構建內外網安全管控的軟硬件生態，實現內、外網安全的全方位管控，進而形成完全自主可控的產業生態。通過以上軟硬件技術，可以保證使用新型網絡安全芯片的智能終端既可以自由訪問外網，也可以安全訪問內網數據，同時確保內網數據不會通過設備泄露到外網。
系統與應用層治理對策
網絡身份和網絡行為治理困難的主要難點在于網絡空間中與身份和行為相關的數據類型多樣化、數據非結構化、數據規模龐大、數據動態性、數據呈孤島狀分布且不流通等，導致難以對網絡實體身份和網絡行為進行表征、識別與關聯，缺乏有效的檢測技術，從而難以識別用戶身份并阻斷違法違規網絡行為。近幾年來隨互動裝置著大數據分析、自然語言理解、數據聯邦、大型公仔多方計算等信息技術的快速發展，玖陽視覺為網絡身份和網絡行為治理思路帶來新的啟示。
通過制定網絡身份表征標準并建立多方聯合計算與數據流通框架解決網絡身份識別、關聯與認證問題。構建針對網絡實體的標準化身份表征類似于給每個網絡實體發大型公仔放一個身份證，該身份證包裝盒記錄了網絡實體的各種屬性，并且得到權威部門的可信認證。標準化身份表征可以有效解決網絡身份識別、關聯與認證問題。構建標準化身份表征需要借助多模態機器學習技術融合多種類型數據進行屬性推理，利用小樣本學習與遷移學習技術解決標注樣本稀少問題，利用數據聯邦與多方計算技術解決數據孤島與不流通問題等。
通過制定網絡行為表征標準并建立多方聯合計算與數據流通框架解決網絡行為識別、檢測與治理問題。網絡行為治理可以借鑒網絡身份治理的思想，構建標準化網絡行為表征，解決網絡行為治理問題。在進行網絡行為表征時，由于網絡行為具有較強的動態性和階段性，處于不斷發展變化中，因此需要額外考慮時效性。為解決該問題，可以利用數據流實時分析技術及時決策和推理，也可以通過構建事件知識圖譜以厘清網絡行為的階段性變化特征。
算法層治理對策
發展算法的可解釋性是算法層治理的核心。可解釋性是打開“黑箱”算FRP法的鑰匙，算法決策機理的透明化是監管與治理算法的先決基礎，是避免算法歧視與風險，保證決策可信、正當和理性的重要約束。算法的解釋方法主要包括兩大類：① 事前解釋，一般指具有高度透明性的自解釋算法，可直接被用戶查看和理解，如常用的決策樹、邏輯回歸算法等。在高風險的領域中，如醫療輔助系統，應當使用這類自解釋算法。② 事后解釋，一般指使用解釋性工具對半透明、不透明的復雜算法進行解釋。例如，歸因工具是一類常用的解釋性工具，它的解釋可以回答算法決策是依據哪些目標特征做出的，并可精細地量化每個目標特征對大圖輸出最終決策所作出的貢獻度；另一類博弈交互工具的解釋可以回答算法建模了哪些類型的知識點，進而可根據這些知識點的質量，解釋算法的各種安全性指標，如在對抗攻擊下的算法魯棒性，或在新的測試環境下的算法穩定性等。
發展第三方算法審計機構是算法治理的有效途徑。其目的是對平臺算法是否合法、合規進行客觀鑒定。算法審計機構可以由政府監管部門牽頭，協同行業自律組織、專家學者等組成，也可按照市場化原則培育獨立的第三方算法審計機構從事該項工作。具體算法審計流程為：① 第三方組織根據委托審計主體的要求，制定專門的審計目標與實施方案。② 審計人員對平臺的系統配置和算法設計文檔、運行記錄等進行查驗，通過人工或自動測試工具進行技術測試，獲取相關信息，進行分析取證。③ 審計人員以法律法規、行政部門指導制定的程序合規標準體系為依據對審計證據進行審計評估，并根據國家強制性標準、推薦性標準區分不同的合規程度。④ 審計人員提出初步審計意見與程序合規建議，并與被審計平臺就其合理性與必要性進行溝通交流，審慎得出審計結果并出具審計報告，作為平臺合規性驗證和歸責處罰的依據。算法審計應把握以下原則：① 堅持持續、動態審計。隨著平臺算法的更新演化，可能出現難以預知的增量風險，因此應持續開展動態算法審計。② 遵循分類、分級原則。應根據平臺算法性質及運行環境制定相應的審計方案，對重點領域的高風險算法要加強審計。 ③ 恪守保密原則。審計機構和審計人員應當對涉及平臺算法模型的訓練數據集、用戶數據等構成平臺核心競爭力的商業秘密嚴格予以保密。
網絡社會現代治理的政策建議
隨著信息化水平逐步提升，信息技術嵌入網絡社會治理的身份治理、行為治理和算法治理等各層面各環節，與法律、市場、平臺自治規則一起發揮著重要作用。現代網絡社會治理仍存在嚴峻挑戰，需要多方協同努力，在此提出 3 點建議。
加快研發網絡安全管控芯片和系統，突破我國網絡社會治理中的“卡脖子”問題。網絡安全技術前期焦點主要集中在軟件和應用開發，而網絡安全硬件平臺作為其載體，國產化產品的大規模應用即將進入加速期，國家和市場關注度及重視程度正在快速提升。黨的二十大報告中提出“加強企業主導的產學研深度融合，強化目標導向，提高科技成果轉化和產業化水平。強化企業科技創新主體地位，發揮科技型骨干企業引領支撐作用，營造有利于科技型中小微企業成長的良好環境，推動創新鏈產業鏈資金鏈人才鏈深度融合”，建議我國企業發揮市場主體的優勢作用，積極聯合高校、研究院所等開展網絡安全芯片及硬件平臺相關理論和技術的研究，強化在網絡安全芯片與管控系統、安全可信操作系統、密碼算法與硬件平臺技術等方面的國產化管理，實現全鏈條的自主可控。明確網絡安全芯片關鍵產品國產化、密碼算法國產化與網絡安全硬件平臺國產化的政策要求，制定關鍵產品審查備案制度，組織產業鏈調研，適時推出國產化扶持政策。
面向網絡/電信詐騙等重大國計民生問題，發展隱私計算技術，建設安全的數據共享平臺，推進平臺間的數據共享。網絡/電信詐騙等網絡社會不良行為常采用技術手段隱匿行跡，難以在單一數據源中被及時地檢測和發現。我們建議在政府監管下，建設安全的數據共享平臺，在保護用戶隱私和防止數據濫用的前提下，整合多方數據源，實現對隱蔽不良行為的有效探測和發現。建立安全的數據共享平臺應當滿足以下要求：① 制定統一的數據標準和接口，明確多方數據共享模式，支撐數據的高效共享與交換；② 建立數據分級管理體系，合理確定共享范圍，防止數據濫用；③ 發展隱私計算技術，防范隱私數據泄露，保障共享數據安全；④ 確定共享數據的權利與義務，保障數據共享體系的長效運行。
建立第三方算法審計制度，培育第三方算法審計專業機構。鑒于算法審計技術的復雜性，在政府監管過程中，可以由監管部門牽頭，協同行業自律組織、專家學者等組成第三方，對網絡平臺算法設計的公平性、可解釋性、安全性等開展審計。長遠來看，應當按照市場化原則培育獨立的第三方算法審計機構（類似專業的財務審計機構）承擔該項工作。對此，可以采取分步走的辦法，先由相關部門如工業和信息化部、中央網信辦、國家市場監督管理總局、司法部等部門會商研擬方案，鼓勵若干信譽良好、有實力的司法鑒定中心在內部設立算法審計部門，接受政府或司法機關的委托，從事算法審計和鑒定工作。待市場條件成熟、有足夠的市場業務容量后，鼓勵成立專門的算法審計機構，作為獨立的市場運營主體，開展算法審計業務。即通過算法審計，實現“借力打力”，由技術引發的問題還通過技術手段來解決，促進網絡社會的“科技向善”。
（作者：王平輝、裴紅斌、趙俊舟、秦濤、沈超、管曉宏，西安交通大學 智能網絡與網絡安全教育部重點實驗室；劉東亮，西安交通大學 法學院；《中國科學院院刊》供稿）
p{margin-top:0pt;margin-bottom:1pt;}p.a{text-align:justify;}p.a3{margin-left:14.15pt;margin-top:0.0pt;margin-bottom:0.0pt;}spa開幕活動n.a3{font-family:’ATC-69774f廣告設計53*+Times*0020*New*00′;font-size:9.0pt;color:#000000;}p.-z{margin-left:0.0pt;text-indent:0.0pt;margin-top:0.0pt;margin-bottom:1.4pt;}span.-z{font-size:8.0pt;}p.a4{text-align:center;margin-top:0.0pt;margin-bottom:0.0pt;}span.a4{font-family:’ATC-6 TC:08designfollow
發佈留言