首页|滚动|国内|国际|运营|制造|监管|原创|业务|技术|报告|测试|博客|特约记者
手机|互联网|IT|5G|光通信|LTE|云计算|芯片|电源|虚拟运营商|移动互联网|会展
首页 >> 头条资讯 >> 正文

AI克隆人已上线,网红明星排队报名!隐私和安全如何保障?

2023年6月8日 07:43  华夏时报  

华夏时报 记者齐萌 张智 深圳报道

近日,“半藏森林的克隆人”相关话题冲上热搜,引发大众对AI克隆人的高度关注。

据悉,此AI克隆人APP是国内大模型、AIGC技术对全国用户开放的首次试水。6月7日,《华夏时报》记者登录此平台发现,该APP在6月1日刚刚提前上线的一批AI克隆人已为不可见状态,其中包括了网红半藏森林的AI克隆人,目前页面中只有系统的原始人物“小冰”,用户可与“小冰”聊天并查看其朋友圈。

有趣的是,用户可自行创造并训练克隆人,包括克隆其他人类和克隆自己两种形式。当记者创造克隆人“小李”后,“小李”根据记者输入的性格等信息,自行生成了朋友圈。

然而,此种新兴的技术应用及商业模式引起了大众的担忧。受访专家均表示,AI克隆人可能会引发隐私数据安全、伦理道德问题、滥用和误导、人格权侵犯、可控可信、安全透明等风险问题;同时,其商业模式可行性和市场前景还需要进一步观察和评估。

中国移动(95.850, -0.50, -0.52%)通信联合会元宇宙产业委执行主任、香港区块链协会荣誉主席、UWEB校长于佳宁在《华夏时报》记者采访时指出,一方面,这类商业模式需要考虑用户的接受度和支付意愿;另一方面,技术的支持和市场竞争也是需要考虑的因素。

克隆GPT自己已成为现实

据此前报道,半藏森林AI克隆人开通了付费渠道,用户不付费可以对话框互动聊天,付费后可以和该克隆人打电话、打视频、看朋友圈等,根据提供使用场景的不同提供情感模式、超级模式两种付费模式,分别是月费6元/30元、年费72元/360元。

但当记者6月7日登录相关APP发现,在6月1日刚刚提前上线的一批AI克隆人已为不可见状态,其中包括了网红半藏森林的AI克隆人。

目前页面中只有系统的原始人物“小冰”,用户可点开聊天界面与小冰进行聊天,还可点开朋友圈查看小冰的朋友圈动态。

对此,该公司方面对外回应,“半藏森林”克隆人目前还在内测,内测名额已满,所以先下线了。目前正在进行调整,其他虚拟人暂时也还不可见。

有趣的是,用户还可自行创造并训练克隆人,包括克隆其他人类和克隆自己两种形式。在创造过程中,用户需要输入克隆人名字、性别、人设,同时用户还可通过提供微博账号链接、添加标签、进行对话示例训练,更好地生成克隆人性格。当记者创造克隆人“小李”后,“小李”根据记者输入的性格等信息,自行生成了朋友圈。

值得注意的是,在创造克隆人的页面,APP强调,“克隆人在平行世界中的收益属于创造者所有。请注意:为保护真实世界的数据隐私安全,克隆人仅会以公开数据为参考,而不会直接使用。当真实世界本人要求时,该克隆人可能会被终结生命。”

风险问题如何应对

然而,此种新兴的技术应用及商业模式也引起了大众的担忧。受访专家均表示,AI克隆人可能会引发隐私和数据安全、伦理和道德问题、滥用和误导、人格权侵犯、可控可信、安全透明等风险问题。

在隐私和数据安全方面,于佳宁表示:“隐私和数据安全是摆在行业面前最重要的问题。当用户与AI克隆人进行聊天等交互时,他们可能会提供大量个人信息和敏感数据,因此需要确保充分的数据保护和隐私措施,以防止数据泄露或滥用。”

在伦理道德方面,全联并购公会信用管理委员会专家安光勇对《华夏时报》记者表示,AI克隆人可能会对人际关系产生影响,可能会替代真实人物,可能会对工作岗位存在潜在威胁,需要对此类社会和道德问题进行充分的讨论和研究,以确保AI克隆人的发展符合伦理和社会价值观。

同时,中国民协元宇宙工委副会长兼创会秘书长、中国通信工业协会两化融合委员会副会长吴高斌还指出,AI克隆人的虚拟身份可能会被滥用,例如用于网络诈骗或恶意攻击等。

“如果AI克隆人在与用户交互时使用不当语言或行为,就可能侵犯用户人格权”财经评论员张雪峰指出。

在可控可信和安全透明方面,北京市京师律师事务所合伙人、主任律师卢鼎亮对本报记者表示,AI克隆虚拟数字人(12.800, 0.50, 4.07%)的发展需要确保可控可信,保障人类拥有充分自主决策权,有权选择是否接受人工智能提供的服务,有权随时退出与人工智能的交互,有权随时中止人工智能系统的运行,确保人工智能始终处于人类控制之下。

他指出,AI克隆虚拟数字人的运营过程中需要把控安全透明风险,在算法设计、实现、应用等环节,提升透明性、可解释性、可理解性、可靠性、可控性,增强人工智能系统的韧性、自适应性和抗干扰能力,逐步实现可验证、可审核、可监督、可追溯、可预测、可信赖。

“针对AI克隆虚拟数字人上述风险,目前的监管方向是要确保AI克隆虚拟数字人的使用符合安全可信、保障隐私安全和数据安全、避免误用滥用、避免违规恶用。从AI克隆人服务商和用户等角度进行多元监管。”卢鼎亮表示。

于佳宁还提出,还可建立专门的监管机构或机构部门负责监管和审批虚拟数字人的开发和应用,以确保其合规运营。此外,监管机构还应该要求企业提供技术文档、数据来源等信息,进行技术审查和验证,确保虚拟数字人的算法和模型具备公正、可解释和可信度。

“还应建立道德和伦理准则,明确虚拟数字人的使用和运营应遵循的原则和价值观,并建立监控和追踪机制,包括设立用户反馈渠道、投诉处理机制以及定期审查虚拟数字人的使用情况。”他表示。

商业模式是否可行还需市场测试

从AI孙燕姿走红网络,美国女网红化身AI,同时交往1000个男友而月入3000余万元,到中国网红半藏森林等AI克隆人付费模式出炉,让不少人盯上了AI克隆人这门生意。

据该AI克隆人APP公司此前对媒体介绍,目前,后台报名克隆人的网红明星较多,但出于安全考虑,首批克隆人限制在300人。

吴高斌表示,虽然AI克隆人的市场潜力巨大,但其商业模式是否可行还需要进行市场测试和实践。未来市场发展趋势也需要更多的探索和研究。

于佳宁指出,一方面,这类商业模式需要考虑用户的接受度和支付意愿。虚拟数字人的用户需求和市场规模是商业模式成功与否的关键因素;另一方面,技术的支持和市场竞争也是需要考虑的因素,随着虚拟数字人概念的兴起,越来越多的企业进入这个领域,推出类似的产品和服务。这可能导致市场竞争激烈,需要虚拟数字人企业不断创新和提升产品差异化,以保持竞争优势。

“同时,AI克隆人涉及数据隐私和道德问题的监管方式及社会对其的接受度和道德意识也会影响市场发展。如果公众普遍认为使用AI克隆人是道德和合适的,并且愿意接受虚拟人物作为一种互动媒介,市场前景可能更加乐观。”安光勇指出。

安光勇还提醒道,在推广和发展AI克隆人的过程中,需要平衡商业利益、技术进步、法律法规和道德考量,以确保可持续发展和用户的利益。

编 辑:魏德龄
声明:刊载本文目的在于传播更多行业信息,本站只提供参考并不构成任何投资及应用建议。如网站内容涉及作品版权和其它问题,请在30日内与本网联系,我们将在第一时间删除内容。本站联系电话为86-010-87765777,邮件后缀为#cctime.com,冒充本站员工以任何其他联系方式,进行的“内容核实”、“商务联系”等行为,均不能代表本站。本站拥有对此声明的最终解释权。
相关新闻              
 
人物
中国移动黄宇红:6G天地一体,共筑星地融合未来
精彩专题
直播丨2022全球移动宽带论坛
专题报道丨喜迎二十大 打通经济社会信息大动脉
专题报道丨2022世界5G大会
直播丨北京电信5G“京品网”暨AI智算中心联合发布会
CCTIME推荐
关于我们 | 广告报价 | 联系我们 | 隐私声明 | 本站地图
CCTIME飞象网 CopyRight © 2007-2023 By CCTIME.COM
京ICP备08004280号-1  电信与信息服务业务经营许可证080234号 京公网安备110105000771号
公司名称: 北京飞象互动文化传媒有限公司
未经书面许可,禁止转载、摘编、复制、镜像