张先生接到 “儿子” 的视频电话：额头贴纱布，说车祸要 5 万手术费。看着屏幕里熟悉的脸，他正要转账，运营商反诈提醒弹出 ：“这是 AI 换脸诈骗”。核实后才知，儿子根本没事，骗子用社交媒体照片通过AI技术伪造了视频。

这样的场景，在 2025 年国家网络安全宣传周被频繁提及。人工智能（AI）给生活带来便利的同时，也让网络安全遭遇前所未有的冲击，一场 AI 攻防博弈正悄然升级。

新挑战：AI大模型特有安全漏洞占比超过60%

9月16日，第22届中国网络安全年会（暨国家网络安全宣传周网络安全协同防御分论坛）上，国内首次针对人工智能大模型的实网众测检验结果正式发布。统计数据显示，本次众测累计发现各类安全漏洞281个，其中大模型特有漏洞177个，占比超过60%。典型风险包括：不当输出、信息泄露、提示注入、不受限消耗类漏洞，以及传统安全漏洞等。专家表示，若此类问题被恶意利用，将对大模型生态带来较大影响。

与会专家指出，随着AI应用场景的不断扩展，新的漏洞和攻击手法将不断涌现，AI大模型安全治理工作任重道远，亟需各方共同努力。一是针对大模型面临的各类漏洞风险，需持续加强安全防护措施。二是加快制定AI漏洞分类分级标准，并按应用场景划分风险等级。三是通过众测模式广泛汇聚社会白帽力量，构筑AI共治生态。四是加强内生安全治理，将安全融入到AI系统全生命周期，从源头筑牢安全基石。

新防线：多方协同完善 “智防” 生态

对 AI 带来的新威胁，网络安全行业并未被动防御，而是主动拥抱 AI 技术，将其打造成抵御风险的 “最强防线”。如今，AI 不仅能为网络安全工作人员提供智能研判支持，还能形成 “检测 - 响应 - 处理” 的自动化闭环，大幅提升防护效率。随着人工智能和大模型技术的迅猛发展，网络安全已正式进入 “智防时代”。

而技术层面的 “智防” 升级，更需要制度与规则的保驾护航，为其划定安全发展的边界、明确协同治理的方向，在此背景下，针对 AI 安全的监管与治理体系也在持续完善。9月15日，在2025年国家网络安全宣传周主论坛上，《人工智能安全治理框架》2.0版（以下简称《框架》2.0版）正式发布。国家互联网应急中心负责同志表示，《框架》2.0版的发布，顺应全球人工智能发展潮流，统筹技术创新与治理实践，在人工智能安全、伦理、治理等方面不断深化共识，促进形成安全、可信、可控的人工智能发展生态，构建跨国界、跨领域、跨行业的协同治理格局。同时，有助于推进多边机制下人工智能安全治理合作，推动世界范围内技术成果的普惠共享，确保人类社会共享人工智能发展的红利。

科技企业巨头也在积极布局。针对大模型应用的安全难题，华为云在2025年国家网络安全宣传周现场展示了端到端大模型安全解决方案，聚焦数据安全、训练保护与推理防护三大核心环节，依托“全链路风险识别”技术体系，构建多层次防护体系：以环境安全筑牢基础，以语料数据安全守住源头，以模型推理安全把控出口。同时，创新引入安全大模型，以AI对抗AI，显著提升安全运营的智能化与高效性，为大模型可信落地保驾护航。实践表明，该方案可有效降低95%以上的攻击暴露面，加速金融、能源、政务等高合规行业的大模型安全落地。

蚂蚁集团也在现场展示了其gPass的“安全秘密”，以 “安全、交互、连接” 三大核心能力为支撑，蚂蚁gPass致力于为 AI 眼镜与智能体之间搭建可信、即时、无缝的信息桥梁，同时为眼镜厂商和开发者构建开放、安全的人工智能数字生态。在安全层面，gPass 借助可信身份流通、端到端加密、设备认证等技术，确保 “设备是本人”，构建起信息传输的安全屏障，全方位保障用户信息安全与隐私；在交互层面，融合声纹、虹膜、指纹等无感核身技术，实现 “本人操作” 的流畅安全认证；在连接层面，可基于用户时间与场景需求，自动调度多智能体间即时、安全的消息交互，大幅提升 AI 眼镜的体验连贯性 。

蚂蚁消金则将重点放在 AI 时代应对凭证与语音伪造的风控能力建设上。通过多模态感知与大小模型协同的方式，其系统能够精准识别假章假证、合成语音等造假行为，目前虚假证件识别准确率已达 98%，语音伪造检测可覆盖 50 余种合成方式。2024 年以来，蚂蚁消金还联合司法机关查处了 12 家非法金融中介，涉案人员超过 200 人，实现了技术治理与司法联动的有效结合，强化了金融领域的 AI 安全防护。

同时，科技巨头们也在借助AI能力护航网络安全。针对企业网络安全风险，华为基于 AI 对抗 AI 的理念，推出星河 AI 网络安全解决方案，为企业量身打造覆盖分支、园区及数据中心的全场景零信任防护体系，构建起全方位的网络安全壁垒。据介绍，在企业安全的多分支场景，华为防火墙集成 Emulator 微内核脱壳引擎与 AI 安全检测算法，前者可对加壳文件实施解密脱壳操作，后者针对解密后的文件进行动态行为分析，未知威胁检测率达 95%，领先业界 15%；在安全园区场景，依托 AI 访问关系的自学习能力自动生成策略，实现东西向 4 - 7 层的微隔离效果，有效防止威胁内外蔓延，同时通过端云联动防御实现 100 跳深度溯源，精准定位攻击源头；在安全数据中心场景，首创勒索加密回滚技术，能确保勒索加密文件 100% 恢复，全方位守护数据安全 。

在2025年国家网络安全宣传周期间可以看到，从 AI 换脸诈骗引发的个人财产风险，到 AI 大模型超 60% 的特有漏洞带来的生态挑战，人工智能将网络安全推向 “攻防博弈” 的新阶段。同时，“AI 对抗 AI” 的 “智防” 模式也逐渐成熟，监管框架迭代、企业方案落地与社会力量参与形成的合力，正为人工智能安全可信发展筑牢根基 。