飞象网讯（易欢）人工智能作为新一轮科技革命和产业变革的核心驱动力正深刻重塑着人类生产生活方式与社会发展格局，尤其是随着近两年大模型技术的深度应用，人工智能的应用范围也越来越广，涌现出上百种场景和模式。然而，在人工智能大模型技术持续释放潜能的同时，其带来的安全问题也愈发不容忽视。
“当前人工智能技术正以前所未有的速度重素全球科技和产业格局，大模型成为推动数字经济发展的关键引擎，但同时也带来了严峻、复杂的安全风险和治理的挑战。”中国电信集团有限公司党组成员、副总经理刘颖近日在出席活动时讲到。对于这种现状，中国互联网协会专家咨询委员会常务副主任邵广禄强调：“AI加速迭代，安全必须同步进阶。”
AI发展面临的安全挑战
近几年AI技术发展迅速，逐渐从实验室走向人们的工作和生活以及产业深处，AI大模型从百亿参数跃升到万亿参数级，泛化能力也在持续突破，能处理从文本生成到复杂推理的各类任务，AI智能体也逐渐进入到智能制造、金融风控等核心的业务流程，与此同时数据的飞轮越转越快、公开数据、私域数据以及合成数据在交错喂养我们的大模型，使大模型能力快速提升。
然而，AI技术的突破令人振奋的同时，催生的一系列安全挑战也成为产业必须直面的关键。例如，数据的安全问题、模型训练中的数据投毒、算法黑箱问题以及大模型应用落地时的一些幻觉问题等。对此，邵广禄也重点指出了当前安全领域的三个挑战。
一是场景化的风险在加剧。在ToB领域AI加持的网络攻击持续在升级，深度合成技术导致仿冒程序、钓鱼邮件等激增，企业引入的一些AI系统如果存在供应链的流动，便更可能成为安全的短板。在隐私保护方面，敏感数据的泄露与滥用的风险也在凸显，深度合成技术的一些恶意应用有可能进一步加剧我们个人信息的侵权问题。
二是重应用轻安全。“金融、医疗、以及工业领域的AI应用与核心业务在深度绑定，但安全能力大多是后加装型的，而不是原生设计的，这类隐患自然比较多。”
三是协同机制有待完善。具体而言，AI的安全涉及技术研发、标准制定以及监管执行等诸多环节，企业间的协同不足、安全数据和威胁情报难以共享，国内外的安全标准也没有统一、跨境AI的应用则合规问题成本也相对较高。
邵广禄强调：“这些安全技术的落后，使得我们技术进步的红利也有可能被滞后。”
此外，中国工程院教授吴世忠也指出，技术发展势不可挡，安全风险亟待监管。既要拥抱技术的无限可能，也要筑牢安全的坚实防线。在他看来，内容安全风险、数据隐私风险、恶意滥用的风险、社会伦理方面的风险等是当下普遍关注的焦点。
破局AI安全问题的关键
针对人工智能、大模型发展过程中存在的安全问题， 邵广禄也提出了几点发展建议。在技术层面，要聚焦隐私计算可解释AI、大模型安全护栏等关键技术，破解提示词、数据泄密等难题，确保算法的透明及数据的可控。
治理方面，要构建政府主导、企业履责、行业自律、公众监督的多元共治的格局，建立全生命周期的监管框架，让安全成为AI产品出厂的标配，而不仅仅是附加服务。
在生态层面，企业间要更多的共享威胁情报、共建漏洞数据库、开源开放安全工具，降低中小企业的防护门槛。
安全是人工智能产业稳步前进的基石，更是数字经济可持续发展的根本保障。刘颖也分享了中国电信在AI安全领域的思考、探索和实践。
据介绍，中国电信全面拥抱AI，开启“云改数转智惠”的战略升级。中国电信积极践行建设网络强国、科技强国、数字中国、维护国家网信安全的初心使命，逐步构建起算力安全、算法模型安全、数据安全、内容和应用安全的AI安全防护体系。
此外，中国电信坚持走自主可控之路，逐步构建起一体化AI安全保障体系。两年前，中国电信宣布启动用于安全垂类模型训练的“阡陌数聚”安全语料库建设，经过两年的积累，“阡陌”已成为国内领先的安全语料库。基于此，训练出“星辰·见微”安全大模型，已经深入嵌入了中国电信日常安全运营生产当中。今年四月发布大模型应用一站式安全运营方案，形成了从模型安全检测到模型安全防护的系列创新成果。
刘颖指出，开放合作是人工智能安全发展的必然选择。中国电信秉持开放共享、合作共赢的理念，持续深化产业协作，通过生态共建，实现协同共治，推动人工智能产业安全、稳定、繁荣发展。
未来，希望在产业界的协同下，能更有力的推动大模型安全发展共识的形成与实践创新，优化AI治理机制，加快培育新质生产力，为人工智能的高质量、可持续发展注入新动能。
