IDC數據顯示，2022年中國網絡安全軟件市場規模達39.2億美元，同比增長12.5%。

　　12.5%

　　8月9日，以“安全即服務 開啟人工智能時代數字安全新范式”為主題的“ISC 2023第十一屆互聯網安全大會”在北京開幕。與會嘉賓表示，人工智能時代的數據安全問題尤為突出，解決AI大模型安全問題需要技術、監管共同發力；應前瞻布局人工智能與網絡安全技術融合創新，增強產業鏈、供應鏈韌性和安全水平。

　　AI大模型安全成熱點

　　當前，AI大模型安全問題成為影響AI行業深入發展的熱點話題。中央網信辦網絡安全協調局副局長羅鋒盈表示，生成式人工智能大力推動我國經濟社會發展，同時存在生成信息準確性、真實性等亟需解決的問題。中國工程院院士鄔江興表示，AI大模型存在“三不可”內生安全個性問題，以及漏洞、后門等內生安全共性問題。

　　“人工智能的應用系統由基礎軟硬件、數據系統和人工智能算法、模型和上層應用組成，自身存在內生安全問題。”鄔江興介紹，深度學習AI模型存在“三不可”內生安全個性問題，這也是AI技術的基因缺陷。一是神經網絡“黑箱”特點導致人工智能存在不可解釋性；二是深度學習對訓練樣本過度依賴，導致學習結果的不可判定性；三是神經網絡前向推進過程的不可逆，導致結果不可推論性。

　　此外，內生安全共性問題不可忽視。“AI應用系統硬件環境總要放在服務器上，有操作系統、CPU、存儲器等，這些數據軟硬件環節存在漏洞、后門等內生安全共性問題。內生安全個性和共性問題往往是交織存在的，使得AI應用系統的安全問題變得極其復雜，給政府、企業使用和維護應用帶來前所未有的挑戰。”鄔江興表示。

　　“人工智能時代的數據安全問題尤為突出。”中國工程院院士、ISC名譽主席鄔賀銓認為，大模型訓練依托海量數據，開源數據集、互聯網數據容易得到，但數據集的質量值得推敲。如果拿這些數據來訓練，內容風險程度可想而知。如果用企業自有數據進行大模型訓練，就要考慮數據泄露的安全風險。

　　羅鋒盈表示，要把數據資源真正轉換成數字經濟的發展動力，不僅要看地區總量上存儲的數據規模有多大，還要看真正可提供、可共享給企業、機構、個人的數據有多少。

　　鄔賀銓稱，當前AI安全評估工作主要由企業自己負責，不少互聯網公司有安全評估資質，國家也有安全評估中心，但仍有很多安全問題沒有被評估出來。“人工智能技術發展和它帶來的安全問題，我們認識還不夠。”鄔賀銓坦言。

　　堅持協同創新

　　業內人士表示，AI大模型安全問題需要企業、監管部門共同發力。

　　從技術解決辦法來看，網絡安全企業、參與AI大模型技術研發和產品開發的企業是解決安全問題的主力軍。

　　“AI大模型安全超越許多傳統安全經驗，不能用解決網絡安全的思想解決數據安全問題，不能簡單利用解決數據安全的思路解決人工智能安全。”360集團創始人周鴻祎表示，解決AI大模型安全問題需要技術跨界，讓具備AI大模型研發能力和網絡安全建設能力的企業在其中發揮作用。越了解AI大模型工作原理，越有能力解決它的安全風險。

　　鄔江興提出了一個新思路，即利用內生安全理論中的動態異構冗余（DHR）構造方法，賦能AI應用系統內生安全實驗。

　　鄔江興表示，紫金山實驗室將在今年四季度舉辦第六屆國際精英挑戰賽，并新設AI應用系統安全賽道，這是世界上首次針對AI應用系統內生安全問題進行人機對抗的比賽。他呼吁更多的專家學者和企業界人士參與到AI應用系統內生安全研究和實踐中來，共同推動AI時代的網絡空間安全發展。

　　安全監管方面，羅鋒盈表示，在AI大模型安全問題受到廣泛重視的背景下，中央網信辦會同相關部門起草并發布了《生成式人工智能服務管理暫行辦法》，辦法將于8月15日正式施行。

　　“在起草過程中，我們始終把推進人工智能等新技術發展應用作為工作的重要出發點和落腳點，支持和促進人工智能產業發展。將規范的范圍限制在生成式人工智能，自動駕駛等其他人工智能應用不受影響，并且只規范向公眾提供服務的情形，企業、科研機構、高校等開展科研攻關不在監管之列。”羅鋒盈稱。

　　中國互聯網協會理事長尚冰建議，解決生成式人工智能帶來的網絡安全新挑戰，要堅持協同創新。互聯網龍頭企業要積極開展原創性、引領性、基礎性安全技術攻關，延伸技術領域拓展產品服務范圍，完善產品矩陣。互聯網初創企業要發揮快速靈活、資源集中的特點，以創新技術和產品切入細分領域，推動產品服務和行業發展緊密結合。堅持合規發展，提升安全治理水平。互聯網企業應嚴格落實網絡安全相關法律法規和政策文件要求，加強自身安全能力建設，構建全流程、全環節隱私合規體系。

　　網絡安全市場逐步擴容

　　中國網絡安全市場規模穩步擴大。IDC數據顯示，2022年中國網絡安全軟件市場規模達39.2億美元，同比增長12.5%。

　　尚冰表示，我國網絡安全產業發展動能強勁。數據顯示，2022年，我國網絡安全產業規模近2200億元。網絡安全企業主體日益壯大。截至2022年底，中國已有21家網絡安全企業上市，越來越多的互聯網企業、設備廠商、電信運營商成為網絡安全領域新生力量。

　　AI大模型浪潮為網絡安全產業帶來發展新機遇。據中國證券報記者統計，360集團、安恒信息、綠盟科技、啟明星辰、中國移動等A股上市公司，阿里巴巴、騰訊、百度等互聯網企業深度參與AI安全市場。

　　同時，AI大模型也為網絡安全產業發展賦能。周鴻祎表示，360集團正在研發安全大模型。360有全球最大的網絡安全攻擊樣本庫和攻擊過程全記錄知識庫，通過訓練安全知識集，360旨在打造“安全萬事通”和安全垂直領域專家。“當系統遇到攻擊報警時，不再由人做判斷，而是由大模型來判斷這是一次攻擊還是誤報。目前，判斷準確率已經提升到超96%，待超99%的時候便可投入使用。”

　　工業和信息化部網絡安全管理局局長隋靜表示，創新是網絡安全保障能力提升的根本動力。要健全科技創新體系，強化企業創新主體地位，全面激發企業創新活力。前瞻布局人工智能與網絡安全技術融合創新，增強產業鏈、供應鏈韌性和安全水平。要完善支持產業發展的政策措施，引導供給不斷提升，需求充分釋放，構建供需雙向發力，產業鏈協同聯動的高水平動態平衡。要創新網絡安全服務模式，引導資本加大對產業的支持力度，加快培育一批網絡安全“專精特新”企業。要充分發揮聯盟協會紐帶作用，培育壯大產業生態，推動網絡安全產業高質量發展。

● 本報記者 彭思雨