首页|必读|视频|专访|运营|制造|监管|大数据|物联网|量子|元宇宙|博客|特约记者
手机|互联网|IT|5G|光通信|人工智能|云计算|芯片报告|智慧城市|移动互联网|会展
首页 >> 相关报道右 >> 正文

全国政协委员齐向东:大力探索“AI+安全”护航中国式现代化

2024年3月4日 13:48  CCTIME飞象网  

飞象网讯 2024年全国两会期间,全国政协委员、奇安信董事长齐向东建议,应大力探索“AI+安全”创新应用,抢占国家安全的人工智能战略制高点,提高我国应对网络空间安全风险与不确定性的能力,护航中国式现代化行稳致远。

一、人工智能促进生产力跃升,蕴含极大的安全挑战,深刻改变国家安全格局。

1、AI加剧安全威胁,如数据泄露、欺诈攻击、社会治理安全等。以 ChatGPT 为代表的生成式 AI 能快速生成钓鱼邮件、编写恶意软件与代码等,导致攻击数量增加,AI 欺诈事件频发。数据显示,ChatGPT等生成式 AI 导致网络钓鱼邮件攻击增长 135%。生成式AI还带来了数据非法获取、数据泄露及恶意滥用等数据安全问题,如ChatGPT在对话交互过程中能获取用户数据,加剧数据泄露风险。不法分子还能利用“深度伪造”换脸变声、伪造视频,“眼见未必为实”将成为常态,网络诈骗大增,甚至引发社会认知混乱。

2、AI加剧攻防失衡,利用和针对 AI的攻击层出不穷,网络安全“易攻难守”。在AI恶意利用方面,人工智能大幅降低了网络攻击门槛,不懂代码、不懂技术的普通人也能成为黑客,增加了网络攻击数量,专业的黑客组织可以利用人工智能对网络攻击进行改造升级,比如,利用AI制作恶意软件、生成规避杀毒软件检测的代码等,网络攻击能力将出现跃升;针对 AI 算法攻击方面,机器视觉攻击、数据源污染等攻击频发,攻击者能通过对抗样本、数据投毒、模型窃取等方式对AI算法进行攻击,使其产生错误判断,同时由于算法黑箱和算法漏洞的存在,这些攻击往往难以检测和防范。

3、AI加剧军事威胁,AI武器化趋势显现一方面,人工智能可以被用在“机器人杀手”等致命性自主武器(LAW)上,通过自主识别攻击目标、远程自动化操作等,隐藏攻击者来源、建立对抗优势;另一方面,人工智能可以将网络、决策者和操作者相连接,让军事行动针对性更强、目标更明确、打击范围更广,越来越多国家开始探索AI在军事领域的应用。数据显示,2024财年,美国国防部计划增加与AI相关的网络安全投资,总额约2457亿美元,其中674亿美元用于网络IT和电子战能力。

二、抓住三个关键,创新发展“AI+安全”,提高应对网络空间安全风险与不确定性的能力,护航中国式现代化。

1. 从供给侧看,开展联合创新,围绕攻防实战和应用场景实现“AI+安全”尖端技术研发突破。技术创新产品需要在应用中更新迭代走向成熟,特别是人工智能大模型,数据样本越丰富,成长速度越快。建议鼓励各行业头部企业与专业安全厂商结成创新联合体,在关键行业选取典型场景开展联合创新,共同探索大模型安全创新产品在威胁检测、漏洞挖掘、指挥研判等方面的应用,在实战中推动“AI+安全”进入越用越强的良性循环。

2. 从需求侧看,强化政策牵引,推动“AI+安全”技术创新产品在各行业落地应用把AI用于网络安全防护是新事物,政企机构面对大模型安全创新产品产生疑虑是正常的。积极的政策引导是推动新事物落地应用、成长壮大的催化剂。以新能源汽车产业的发展为例,最初消费者对其安全性有疑虑,密集出台的财税补贴、“双积分”制度等一系列政策,逐步改变了消费者观念,拉动了新能源汽车产业的发展和技术进步。建议像支持新能源汽车的发展一样,支持“AI+安全”发展,设置专项基金,对研发创新“AI+安全”产品的企业,给予政府基金、贴息贷款或科研项目等支持;对率先取得技术突破,实现成果转化的科研机构和企业给予奖励;对积极使用相关技术、产品和服务的企业给予相应补贴,推动“AI+安全”相关产业取得更多科技创新成果。

3.从人才侧看,壮大“AI+安全”领域的实战型、复合型人才队伍。随着AI技术的普及和应用领域的不断扩展,我国AI人才严重短缺。工信部数据显示,人工智能不同技术方向岗位的人才供需比均低于0.4,其中智能语音和计算机视觉的岗位人才供需比分别为0.08、0.09,相关人才极度稀缺。建议充分发挥民营企业在人才培养上的优势,鼓励成立校企共同体,在实践中培养更多大数据、人工智能、网络安全等新兴产业领军人才,为我国抢抓人工智能机遇培育人才。

编 辑:高靖宇
声明:刊载本文目的在于传播更多行业信息,本站只提供参考并不构成任何投资及应用建议。如网站内容涉及作品版权和其它问题,请在30日内与本网联系,我们将在第一时间删除内容。本站联系电话为86-010-87765777,邮件后缀为#cctime.com,冒充本站员工以任何其他联系方式,进行的“内容核实”、“商务联系”等行为,均不能代表本站。本站拥有对此声明的最终解释权。
相关新闻              
 
人物
高通孟樸畅谈AI:换机加速、交互变革、全面普及
精彩专题
CES 2024国际消费电子展
2023年信息通信产业盘点暨颁奖礼
飞象网2023年手机评选
第24届中国国际光电博览会
CCTIME推荐
关于我们 | 广告报价 | 联系我们 | 隐私声明 | 本站地图
CCTIME飞象网 CopyRight © 2007-2024 By CCTIME.COM
京ICP备08004280号-1  电信与信息服务业务经营许可证080234号 京公网安备110105000771号
公司名称: 北京飞象互动文化传媒有限公司
未经书面许可,禁止转载、摘编、复制、镜像