AI时代网络威胁激增，政策技术双轮驱动进一步筑牢安全屏障

飞象网讯（易欢）2025年以来，人工智能技术迎来跨越式发展，大模型训练成本持续降低，智能体化应用快速普及，“AI+”浪潮深度渗透政务、金融、医疗等关键领域，成为驱动经济社会发展的核心引擎。然而，技术的“双刃剑”效应在网络空间愈发凸显，例如：AI生成式内容造假、智能体自主攻击、黑产工具AI化等新型安全威胁持续升级，传统防御体系面临严峻挑战。

无疑，AI技术的滥用正让网络攻击呈现自动化、规模化、隐蔽化特征，如何准确应对AI爆发引起的网络威胁，构建适配新时代的网络安全治理体系成为时代发展必须直面的重要课题。

技术滥用催生新型风险，安全防线遭遇多重冲击

AI技术的快速迭代，正在重塑网络攻击的形态与规模，从个人权益侵害到国家关键设施安全，各类风险多点爆发。生成式AI的滥用成为最突出的安全隐患之一，深度伪造技术已形成成熟的黑产链条。2025年，网络平台出现多个利用AI合成中国工程院院士张伯礼形象的带货短视频，通过模拟其声音与神态达到以假乱真的效果，此类侵权案例被最高人民法院纳入滥用信息技术侵犯人格权典型案例。在公共事件中，AI合成内容的传播更具破坏性，由 AI技术拼凑生成的种种虚假新闻也在一定程度上扰乱了社会秩序。

智能体化AI的出现让网络攻击进入“自主进攻”时代，防御难度指数级提升。更令人警惕的是，AI勒索软件已实现自主决策，境外披露的某款勒索软件可通过开源大模型生成恶意程序，自主选择加密文件目标。攻击规模的爆发式增长同样触目惊心，Cloudflare数据显示，2025年前三季度全球累计缓解DDoS攻击3620万次，相当于2024年全年的170%，其中Aisuru僵尸网络发起的攻击流量峰值达29.7Tbps，创历史纪录。

不仅如此，行业渗透风险持续蔓延，关键领域成为攻击重灾区。在金融行业中，AI换脸技术已成功攻破部分机构的身份验证系统；教育领域因AI代写论文问题，多所高校被迫启用AI检测机制；制造业、医疗保健行业的供应链攻击频发，2025年Salesforce供应链攻击事件波及谷歌、Cloudflare等数十家科技巨头。很显然，人工智能在给网络安全发展带来更多新可能的同时，也给网络安全产业带来新的难题。

政策技术双轮驱动，进一步筑牢网络安全屏障

面对AI时代的安全挑战，我国通过完善法律框架、强化技术创新、深化协同治理，构建起多层次网络安全防线。2025 年10月28日，全国人大常委会审议通过《中华人民共和国网络安全法》修改决定，于2026年1月1日正式施行。此次修改立足于数字时代发展方位，把握信息革命演进大势，坚持因势而谋、应势而动、顺势而为，贯彻落实总体国家安全观，科学设置不同类型违法行为法律责任，系统引导人工智能发展与安全，对于深入推进依法治网、进一步筑牢国家网络安全屏障具有重要意义。

据了解，新修订的法律明确将人工智能安全纳入监管体系，要求国家支持AI关键技术研发与安全监管，鼓励运用AI等新技术提升网络安全保护水平，并大幅提高违法处罚力度，对造成关键信息基础设施丧失主要功能等特别严重后果的，最高可处1000万元罚款，为AI安全治理提供坚实法律保障。

在专项治理与标准规范方面，针对性政策密集出台。2025年9月1日生效的《人工智能生成合成内容标识办法》及配套国家标准，要求所有AI生成内容必须添加显式或隐式“数字身份证”，从源头遏制虚假信息传播。公安部在全国范围内打击利用AI编造谣言、侵犯公民个人信息等案件，有效震慑了网络黑产。

技术防御创新为安全治理提供核心支撑，“用AI对抗AI”成为行业共识。2026年1月5日，北京前瞻人工智能安全与治理研究院发布的安全评估体系与基座平台，构建了覆盖基础安全、社会安全等五大维度的评估框架，其“前瞻·灵御”攻防平台可支持60余种主流大模型的安全测试，涵盖20余种攻击方法和10余种防御机制。奇安信集团提出的“框、数、人、链”四环节管控方案，将AI嵌入安全体系，增强数智系统内生免疫力。安恒信息则利用AI智能体构建动态仿真系统，可实时预测攻击行为并生成防御策略，推动防御模式从被动响应向主动预测转变。这些技术创新正在形成“评估-检测-防御-响应”的全链条安全能力。

技术、需求迭代下，“AI+安全”将朝三大方向演进

在技术持续迭代、需求不断升级的当下， “AI+安全”的未来发展也成为行业关注的焦点问题。对此，中国信通院安全研究所刘越强调：“展望未来，“AI+安全”将朝着技术自主化、场景深度化、生态协同化三大方向演进。”

在技术层面，安全大模型和安全智能体将成为核心发力点——大模型能让威胁“看得见、看得懂”，智能体则靠多主体协作和自主执行策略，实现安全防护自动化的关键落地，推动防御策略形成自主闭环。

场景方面，“AI+安全”将从通用安全防护，延伸到垂直领域的深度适配，针对工业互联网、车联网这些特殊场景的“零误杀”“低延迟”需求，研发定制化的AI安全解决方案；同时还要强化AI自身的安全防护，筑牢模型和数据的隐私安全根基。

生态层面，将构建多方协同共享的发展格局。通过完善产学研协同机制、推进安全数据智能共享、参与国际标准制定，打破“数据孤岛”和技术壁垒；同时定向培养懂AI又懂安全的复合型人才，建立健全认证测试机制，引导产业从规模扩张转向高质量发展，最终形成自主可控、协同高效的网络安全产业生态，为数字经济高质量发展提供坚实保障。

人工智能技术的发展没有止境，网络安全的攻防博弈也将长期存在。当前，AI带来的安全挑战既是技术革命的“副产品”，也是治理能力升级的“催化剂”。我国通过法律政策的不断完善、技术防御的持续创新，已初步构建起适配AI时代的网络安全治理体系。未来，仍需进一步强化AI安全基础研究，完善跨行业风险预警机制，推动全球治理规则互认，在保障技术创新活力的同时守住安全底线。唯有坚持发展与安全并重，才能让人工智能真正成为赋能高质量发展的安全引擎，为数字经济行稳致远保驾护航。