7月23日，2025（第二十四届）中国互联网大会在京开幕。作为大会重要组成部分，大模型安全发展论坛暨中国电信第五届科技节·北京站举办。论坛由中国互联网协会主办，中国电信集团有限公司、中国电信科学技术协会及天翼安全科技有限公司联合主办，以“安全护智·智惠安全”为主题，汇聚政产学研顶尖力量，共话大模型安全发展，推动AI安全与创新共振，赋能可信智能生态建设。
中国互联网协会专家咨询委员会常务副主任邵广禄和中国电信集团有限公司党组成员、副总经理刘颖出席论坛并致辞。
中国互联网协会专家咨询委员会常务副主任邵广禄
邵广禄强调，伴随AI加速迭代，安全必须同步进阶。当前，AI安全领域面临三大挑战：场景化风险加剧、“重应用、轻安全”、 协同机制有待完善。要从技术、治理、生态三个层面协同发力，共筑大模型安全。中国互联网协会将进一步发挥桥梁作用，推动产学研用协同攻关，完善标准体系，营造规范环境。
中国电信集团有限公司党组成员、副总经理刘颖
刘颖表示，当前人工智能技术正以前所未有的速度重塑全球科技与产业格局，同时也带来了严峻复杂的安全风险与治理挑战。论坛以“安全护智·智惠安全”为主题，中国电信与产学研各位专家同仁一道，分享在AI安全领域的思考、探索和实践。
一、中国电信全面拥抱AI，开启“云改数转智惠”的战略升级。中国电信积极践行建设网络强国、科技强国、数字中国、维护国家网信安全的初心使命，逐步构建起算力安全、算法模型安全、数据安全、内容和应用安全的AI安全防护体系。
二、坚持走自主可控之路，逐步构建起一体化AI安全保障体系。两年前，中国电信宣布启动用于安全垂类模型训练的“阡陌数聚”安全语料库建设，经过两年的积累，“阡陌”已成为国内领先的安全语料库。基于此，训练出“星辰·见微”安全大模型，已经深入嵌入了中国电信日常安全运营生产当中。今年四月发布大模型应用一站式安全运营方案，形成了从模型安全检测到模型安全防护的系列创新成果。
三、开放合作是人工智能安全发展的必然选择。中国电信秉持开放共享、合作共赢的理念，持续深化产业协作，通过生态共建，实现协同共治，推动人工智能产业安全、稳定、繁荣发展。
中国工程院教授吴世忠
吴世忠作了题为《大模型安全治理的现状与展望》主题演讲。他指出技术发展势不可挡，安全风险亟待监管。既要拥抱技术的无限可能，也要筑牢安全的坚实防线。通过国际和国内协同、技术与政策并重、公众与行业共治，以安全为基石，以智慧为引领，积极推进大模型的发展与治理，共同打造一个安全、可信、智慧的AI未来。
中国信息通信研究院副院长魏亮
魏亮以《大模型安全挑战与应对》为题，聚焦大模型技术发展及安全治理现状，全面剖析了全球政策法规与行业自律态势，探讨模型生命周期安全风险，同时结合安全治理的实践案例，展望未来大模型协同共治格局，为构建安全可信的大模型生态贡献思路。
中国软件评测中心副主任唐刚
唐刚分享了大模型安全实践。他表示，智能时代，网络和数据安全的机遇与挑战并存，人们既享受了人工智能带来的便捷，也不得不面对由此伴生的风险。一方面，大模型自身的安全缺陷随着其广泛应用传播风险，警示我们应加强大模型安全治理；另一方面，人工智能降低网络和数据攻击门槛，迫使我们必须加快人工智能赋能网络和数据安全的技术攻关与产业实践。中国软件评测中心积极研发大模型安全能力并投入实践，将协同产业界各方共同构建人工智能时代的网络和数据安全防线。
清华大学网络研究院副教授邱寒
邱寒分享了《从现实世界的数据污染思考大语言模型安全》研究报告。大语言模型在其预训练阶段，往往依靠海量互联网语料进行非监督学习，这其中难免会混入真实互联网中存在的赌博、色情等非法内容或毫无意义的污染语料，一方面体现在模型的词表中，一方面会对模型的推理产生不良影响。报告从GPT-4o词表中的中文污染token出发，探索不同大语言模型词表中文token污染的情况，并探索基于词表中token分布估算语料库中token词频的方法，最后分析不同污染token在推理中异常表现的原因。
天翼安全科技有限公司首席AI安全专家曹辉、高级安全研究员危嘉祺以《识别大模型新型安全威胁，守护大模型安全可靠可控》为题，介绍电信安全在人工智能安全领域的最新成果。
天翼安全科技有限公司高级安全研究员危嘉祺
危嘉祺表示，电信安全在两年前提出要构建安全领域的“ImageNet”，以推动AI安全行业的系统性发展。围绕AI安全的两个关键方向——AI for Security（人工智能赋能网络安全）与Security for AI（安全手段护航人工智能），电信安全持续打造了一整套体系化的数据获取、清洗、标注与蒸馏的全流程能力。
在 AI for Security 方面，依托中国电信强大的云网基础及两级SOC体系积累的海量高质量安全数据，电信安全开展深度清洗、特征抽取与自动化标注，成功构建数千万条高质量标注样本，以及近百亿Token规模的语料库，数据内容全面覆盖IPDRR（识别、保护、检测、响应、恢复）安全能力框架。
在 Security for AI 方面，电信安全参考国家标准TC260-003定义的五大类、三十一小类风险类别，进一步细化、构建三级分类标签体系，并设计独特高效的数据蒸馏流程，能够持续产出对齐精度高、泛化能力强的安全样本。同时，电信安全构建了一套生成式对抗环境，基于数十类攻击策略，融合黑盒与白盒的多种攻击生成算法，不断在攻防对抗中演进，持续产出高质量的提示注入攻击样本，助力模型对抗能力的提升。
天翼安全科技有限公司首席AI安全专家曹辉
曹辉指出，近两年伴随大模型应用的蓬勃兴起，其伴生的安全风险也日益凸显。一方面，针对大模型的新型攻击手段层出不穷，如提示词攻击、数据投毒攻击等，正快速演进迭代。另一方面，大模型相关的安全事件频发并呈现快速增长态势。
为有效应对和管控上述风险，电信安全积极探索并落地了三项实践。一是进行AI风险监控，提出AI资产测绘，结合AI威胁情报，开发AI安全监测系统，实现对AI安全态势的全面感知。二是进行AI安全评测，系统化收集AI威胁数据，集成至AI评测系统，为评估AI系统的安全成熟度提供有效依据。三是研究AI威胁的防护技术，并开发大模型护栏解决方案，为大模型提供实时、精准的贴身防护。
基于这三项实践，电信安全深刻体会到，构建坚实的AI安全防线，必然需要深度融合安全领域的人工智能技术，安全数据集是其中的关键。对此，电信安全提出两方面建议：一是大模型的开发者、提供者、使用者及监管方高度重视大模型安全风险，共同提升风险应对能力。二是倡议多方合作，加大安全研究投入，共建高质量安全数据集。
圆桌论坛
在圆桌论坛环节，数世咨询创始人兼总经理李少鹏、天翼安全科技有限公司首席AI安全专家曹辉，《中国信息安全》杂志社副社长李刚，北京瑞莱智慧科技有限公司合伙人、高级副总裁朱萌和火山引擎云安全解决方案负责人林扬围绕“大模型安全发展路径探索与思考”展开了深入的交流。专家们结合各自领域的实践经验与前瞻洞察，共同剖析挑战、分享洞见，为大模型安全发展的可行路径与关键策略积极献计献策，凝聚了宝贵的行业共识与发展智慧。
本次论坛的举办，为政府部门、行业组织及企业搭建了高效对话平台，有力推动了大模型安全发展共识的形成与实践创新。未来，电信安全将持续深化与产业链伙伴的战略合作，优化AI治理机制，加快培育新质生产力，为人工智能的高质量、可持续发展注入新动能。
