近日,在“全球数字经济大会—云智算安全论坛暨2025第三届SecGo安全会议”上,中国信息通信研究院正式授牌成立“云上大模型安全推进方阵”,发布“2025年可信安全最新评估结果”。凭借在人工智能安全领域深厚积累与创新实践,启明星辰当选方阵副理事长单位;启明星辰天清MAF大模型应用防火墙首批通过中国信通院“大模型内容安全防护产品能力评估”。
本次评估严格依据《大模型内容安全防护产品能力评估办法》,聚焦用户关切与实际生产场景中的核心风险与威胁,重点覆盖高对抗攻防测试、违规内容识别、端到端安全能力闭环、生态集成、防护性能等八类关键指标,全面涵盖内容风险识别、检测分析、安全防护及安全管理等维度。在此权威评估中,启明星辰天清MAF大模型应用防火墙表现优异,充分展现了卓越的综合实力。
为有效应对大模型安全挑战,启明星辰聚焦前沿趋势研究、推动标准体系完善、探索行业最佳实践、促进产业生态协同,积极了构建全面的大模型安全能力体系。其中,面向DeepSeek等企业级大模型服务商,启明星辰推出业内首个大模型安全防护产品 —— 天清MAF大模型应用防火墙。
该产品旨在保护使用大模型或由大模型驱动的应用程序免受威胁或降低其风险,为大模型推理服务、智能体及MCP服务提供实时安全防护,在模型安全、数据安全、应用安全、内容安全等领域提供一体化解决方案。
模型安全:全面覆盖OWASP LLM TOP10大模型相关风险,有效防御提示词注入攻击、过度代理、算力拒绝服务攻击、不当输出等威胁。
数据安全:对大模型/智能体输出内容进行全面检测和过滤,实现敏感个人数据过滤、系统提示词防护、数据泄露防护。
应用安全: 一站式提供大模型应用层防护,包括组件漏洞防护、Web攻击防护、BOT流量管理、API安全防护等。
内容安全:覆盖《生成式人工智能服务安全基本要求》、《生成式人工智能服务管理暂行办法》等公安、网信合规要求。
针对大模型业务场景的内容级、应用级新型威胁,天清MAF创新性采用“大模型技术”对抗“大模型威胁”路径,有效解决传统安全产品难以应对大模型自然语言交互风险场景的痛点;通过大小模型结合的自然语义检测,融合神经网络语义理解与智脑对决技术,全面保障大模型服务安全;基于多项算法优化及动态防御矩阵技术,实现毫秒级响应的高性能内容检测。
随着生成式人工智能技术在企业级应用的爆发式增长,其带来的内容安全、数据泄露、模型滥用等新型安全风险日益凸显。启明星辰将持续深耕大模型安全领域,全力推动大模型安全应用落地实践,促进大模型安全产品服务水平提升,为产业健康发展保驾护航。
