近日,地方兩會陸續召開,北京市人大代表、民進中央委員、北京市委常委王報換就表示,未來網絡空間安全可能以人工智能安全大模型為核心,按需靈活調用已有的安全技術或生成新的內容來共同實施安全保障。隨著AIGC興起,安全攻防戰正持續升級。
技術向善,也能向“惡”
AI為千行百業創新發展提供驅動力的同時,也在顛覆現有數字安全攻防體系的底層邏輯。一方面,攻擊者通過應用AI實現攻擊武器的“升維”,可能將數字安全的戰場由“冷兵器”時代直接帶入“核武器”時代。另一方面,在AI助力下,防御體系的決策和反應能力都會呈指數級提升。毋庸置疑,AI未來將成為攻防雙方的必爭之地。
近年來,OpenAI、Meta、DeepMind等國外行業巨頭相繼加大AI安全技術和監管措施的投入。如2024年,OpenAI公開發布了其針對前沿AI大模型的安全策略,包括基礎架構、保護措施、開發人員訪問管理等。國內的百度、阿里、華為等也在安全研究上布局投資。
用AI對抗AI,提升安全防護能力
近年來,以大模型為代表的AIGC席卷全球,在各行各業中廣泛應用。AIGC等數字技術的應用既是安全防御的重點,也是保障的有利手段。用傳統安全思路解決AI帶來的安全問題是不行的,必須用AI重塑安全。
安全,是大模型落地應用的重要條件。中國電信始終強調,要在云網安全的基礎上,重點從底座安全、模型安全及數據安全三個方面,構建大模型的安全體系:一是底座安全可信,通過自主可控、安全可信的分布式云,以及云堤大網安全監測和治理,構建高可靠的訓推集群;二是模型安全可管,通過大模型接入測評和訓練語料內容測評,確保大模型開發部署的安全;三是數據安全可控,通過數據安全管控系統,幫助企業提升敏感數據保護、不良內容過濾等能力。
促進供需兩端有效對接
中國信息通信研究院安全研究所副所長孟楠表示,運營商應當做好維護網絡安全的“先鋒隊”,扛起網絡安全手段建設的使命職責,打造技術“硬實力”,提升重大網絡安全風險應對能力,切實維護基礎電信網絡穩定運行。由此可見,除了針對網絡安全問題進行安全系統的規劃部署之外,后續不斷跟進的研發工作也顯得尤為關鍵。
面對人工智能AI+時代所提出的新要求,中國電信積極投身科研工作,建成“中心-省-邊緣-端”四級算力布局,總智算規模達16EFLOPS;自主研發了語義、語音、圖像和多模態的星辰大模型,并積極推進多模態大數據AI融合PaaS底座進程研究進程。
除此之外,中國電信還秉承開放合作的立場,牽頭成立“天翼網信安全產業聯盟”,并牽頭建設云網基礎設施安全國家工程研究中心,建立國家級5G安全接入標準體系,聯合產業內尖端力量,齊心協力在人工智能新時代背景下筑牢網絡信息安全防線。