2025年國家網(wǎng)絡安全宣傳周于9月15日至21日舉辦。今年活動主題為“網(wǎng)絡安全為人民，網(wǎng)絡安全靠人民——以高水平安全守護高質(zhì)量發(fā)展”。當前，人工智能等新技術快速融入社會發(fā)展的方方面面，賦能發(fā)展的同時，也帶來政務安全、數(shù)據(jù)治理、個人信息保護等領域的嚴峻考驗，網(wǎng)絡安全風險的系統(tǒng)性、突發(fā)性特征愈加明顯。專業(yè)聲音認為，既要把握信息技術智能化快速發(fā)展帶來的歷史機遇，也要把控好人工智能網(wǎng)絡安全的新威脅新風險，依法科學推進網(wǎng)絡安全法治建設，以適應人工智能發(fā)展需求。

（來源：人民論壇網(wǎng)）

專家指出，隨著人工智能的加速突破和應用，網(wǎng)絡安全范式隨之發(fā)生變化，網(wǎng)絡安全法治建設也面臨新的挑戰(zhàn)。中國互聯(lián)網(wǎng)協(xié)會專家咨詢委員會常務副主任趙志國表示，人工智能技術創(chuàng)新以數(shù)據(jù)、算法、算力三要素共同驅動，數(shù)據(jù)的依賴性、算法的復雜性、算力的集中性等內(nèi)在屬性，使得模型幻覺、算法黑箱、數(shù)據(jù)可信等特有的安全風險更加凸顯。同時，人工智能驅動的攻擊手段正朝著智能化、自動化方向發(fā)展，在顯著降低攻擊門檻、提升攻擊頻率的同時，進一步增強了攻擊的隱蔽性與變異性。深度偽造欺詐、自動化攻擊、開源生態(tài)投毒等新型網(wǎng)絡威脅日漸增多。對于上述風險與挑戰(zhàn)，我國網(wǎng)絡安全法治體系仍有不足。

中國社會科學院法學研究所研究員周輝、中國現(xiàn)代國際關系研究院研究員陳向陽等人指出：一是立法工作滯后凸顯。當前，我國網(wǎng)絡安全法治體系在應對人工智能風險、打擊人工智能違法犯罪、劃分人工智能侵權責任等方面滯后性明顯。傳統(tǒng)網(wǎng)絡安全立法在解決人工智能法律問題方面針對性不足，在適用過程中需要對法條進行擴張性解釋，但也容易出現(xiàn)法理難題。二是監(jiān)管技術鴻溝擴大。人工智能技術在進一步降低網(wǎng)絡攻擊成本的同時，也使攻擊手段更為復雜。算法黑箱使得開發(fā)人員和監(jiān)管者難以真正掌握算法內(nèi)部的工作機制和決策過程，增加了監(jiān)管難度；新的算法、模型和架構不斷涌現(xiàn)，使得監(jiān)管政策和標準難以跟上技術更新的速度，導致監(jiān)管滯后。三是治理機制難以適應。人工智能網(wǎng)絡安全往往需要跨部門、跨領域治理，但各部門之間的職能分工存在交叉和重疊、數(shù)據(jù)共享和信息流通不暢、治理思路一致性欠缺等問題。不同經(jīng)濟發(fā)展水平的地區(qū)之間以及綜合監(jiān)管部門和行業(yè)監(jiān)管部門之間，治理能力和治理資源存在較大差異。

專家建議，科學完善網(wǎng)絡安全立法與監(jiān)管工作，助推人工智能高質(zhì)量發(fā)展和高水平安全的深度融合。綜合周輝、北京理工大學啟元實驗室研究員徐源、甘肅政法大學法學院黃榮昌等人觀點，一是推進網(wǎng)絡安全政策法規(guī)“立改廢釋”。首先，完善網(wǎng)絡安全法律規(guī)范銜接。網(wǎng)絡安全法律規(guī)范應當適應人工智能的時代需求，關注人工智能發(fā)展新形勢、新需求，完善現(xiàn)有規(guī)范與人工智能技術的有機銜接。近期，我國正推動網(wǎng)絡安全法修改工作，建議聚焦人工智能等熱點領域，進一步通過立法框架強化技術應用的合規(guī)性和安全性，推動模型算法、數(shù)據(jù)資源、基礎設施、應用系統(tǒng)等安全能力建設，加強前瞻評估和監(jiān)測處置，以確保網(wǎng)絡新技術應用合規(guī)、透明和可信賴。其次，起草制定人工智能法律法規(guī)和政策體系，將制度規(guī)范貫穿到人工智能的設計、研發(fā)、部署和維護各個環(huán)節(jié)，加快推進人工智能基礎設施保護、個人隱私保護與數(shù)據(jù)安全、安全服務認證等領域的立法工作，完善人工智能安全管理的追溯和問責制度、風險監(jiān)測研判和防范制度等，明確人工智能模型算法研發(fā)者、服務提供者、使用者等相關主體的權利、義務與責任。

二是探索網(wǎng)絡安全技術監(jiān)管制度方案。“以技治技”是人工智能監(jiān)管的必然選擇。一方面，提高人工智能技術監(jiān)管投入，加強技術研發(fā)，提高監(jiān)管水平。加快人工智能監(jiān)管技術部署，推動人工智能監(jiān)管技術更廣泛應用。同時，加強人工智能與安全產(chǎn)業(yè)的深度融合、雙向賦能，發(fā)揮人工智能在數(shù)據(jù)處理、模式識別、告警研判、惡意軟件識別等方面的優(yōu)勢，加速人工智能相關的技術與安全防護的深度耦合，賦能網(wǎng)絡安全創(chuàng)新發(fā)展。另一方面，新興技術的發(fā)展離不開人才，相關部門要加大對人工智能人才與網(wǎng)絡安全人才的政策支持力度，推動網(wǎng)絡安全與人工智能創(chuàng)新復合型人才的培養(yǎng)，培育既熟悉人工智能和網(wǎng)絡安全技術，又有法學素養(yǎng)和法治思維的復合型人才。

三是創(chuàng)新網(wǎng)絡安全協(xié)同治理機制。第一，繼續(xù)推進現(xiàn)有的人工智能治理體系運行機制，建立具有統(tǒng)籌協(xié)調(diào)能力的決策組織機構，發(fā)揮多部門綜合治理成效，避免我國網(wǎng)絡安全治理與人工智能監(jiān)管出現(xiàn)“九龍治水”的治理格局。分析并破解不同監(jiān)管部門制定的監(jiān)管規(guī)則與政策之間的矛盾，建立具有全方位可操作性的統(tǒng)一監(jiān)管標準，實現(xiàn)網(wǎng)絡安全治理與人工智能技術監(jiān)管實質(zhì)層面上的協(xié)調(diào)與統(tǒng)一。第二，促進人工智能研發(fā)企業(yè)與國家、政府間的良好合作，推動政企協(xié)同治理。構建研發(fā)企業(yè)的技術規(guī)制與內(nèi)部審查機制，確保所有相關研發(fā)活動都在法律規(guī)范的框架內(nèi)進行，保障人工智能的安全與規(guī)范性，發(fā)揮企業(yè)防范人工智能風險“前沿陣地”的作用，從源頭化解風險。

參考資料：

1. 工信部原總工程師趙志國：積極探索人工智能與網(wǎng)絡安全融合發(fā)展機遇和路徑

2. 孫欣然 黃榮昌｜ChatGPT視角下我國網(wǎng)絡安全風險與治理機制研究

3. 人工智能快速發(fā)展下的網(wǎng)絡安全法治建設

4. 總體國家安全觀視角下的人工智能安全治理之道

5. 專題·人工智能安全 | 生成式人工智能的網(wǎng)絡安全風險及應對策略

輿情分析師 趙鴿