首页|必读|视频|专访|运营|制造|监管|大数据|物联网|量子|元宇宙|博客|特约记者
手机|互联网|IT|5G|光通信|人工智能|云计算|芯片报告|智慧城市|移动互联网|会展
首页 >> 头条固定一 >> 正文

端侧AI很好很强大,但有些隐忧厂商没有说

2024年1月4日 08:37  CCTIME飞象网  作 者:魏德龄

飞象网讯(魏德龄/文)这个冬天,无论是电脑还是手机,端侧AI能力都成为电子产品的新促销点,无需连接网络就能让本地产品获得如同ChatGPT般的能力,并且通过对于模型与算法的优化,还能获得极快的响应速度。

然而,只要尝试在本地设备中部署AI能力后,就能发现,端侧AI很好很强大,但有些对于普通消费者来说的隐忧,厂商并没有主动提及。

吃紧的硬盘空间

如今,硬盘空间无疑成为了厂商在销售电子产品时,获得更高价格空间的重要手段。很多用户往往无法选择购买最低硬盘空间的起售价格产品。以智能手机为例,最低的起售价格,往往意味着128GB/256GB的存储空间,对于喜欢玩游戏或拍摄视频的用户来说,这样的空间往往捉襟见肘。

不少大型游戏动辄30GB左右,随着苹果开始在手机侧布局3A大作,未来这一趋势还将愈发明显。而随着手机摄像头像素的提升,支持的视频格式愈发高阶,在给用户带来更高画质、更多后期可调空间的情况下,也让存储空间更加吃紧,甚至在iPhone 15 Pro系列中,如果想拍摄4K的ProRes视频就必须外接固态硬盘。

端侧AI的实现除了需要在本地设备中安装可执行的应用程序与环境,更重要的是需要配置好对应相关任务的模型,以目前无论是PC还是手机厂商都喜欢进行演示的Stable Diffusion为例,内置的模型就至少需要7GB的空间,完整版为15GB,而如果用户对于相关画风、细节有要求,甚至是希望生成出Gif动画效果,同样需要再下载其它模型。一套让端侧设备实现文字生图能力的应用,在安装完成后所占据的空间,很可能与一款大型游戏不相上下。

同理,若想实现类似于ChatGPT般的对话式助理功能,一个容量为20GB以上的模型同样少不了。才能有望让PC或手机成为用户的本地工作生活助理,在无需网络依赖的情况下,具备撰写简单的文档、回答相关问题,或是规划旅行日程等能力。

 

系统臃肿的隐忧

对于玩过大型游戏的用户来说,每次版本迭代时的更新无疑都会经历一个漫长的过程,而如果手机或PC厂商将本地AI能力与自身操作系统相结合,由于其所占据的较大硬盘空间,无疑将会让操作系统本身的容量变得较为臃肿。

小米14系列发布会上曾经公布了这样一张标注有手机固件大小的PPT,友商A、B、C、D的固件大小容量分别为11.36GB、12.64GB、20.61GB、21.20GB。显然,如果不对模型进行进一步精简,手机操作系统只是简单通过1+1的方式来融入端侧AI能力的话,固件容量很可能将会翻升2-3倍。

这也就引出了另一个问题,本地AI模型同样有着定期版本升级的特性,而一旦面临升级,用户将会面临一个相对较长的下载与替换安装过程。这一问题目前在工业互联网领域已经被业界所关注,随着AI模型开始在智能制造领域的尝试性部署,升级过程中的高数据量同样会产生较长的设备更新时间。

 

质量与能耗的取舍

尽管“1秒钟”已经成为了PC与手机厂商强调端侧AI能力时的标配指标,然而厂商很少主动表示,1秒钟所生成的图片大小,PC一般为512*512,手机一般为256*256,这一分辨率对于如今的高分屏时代来说,其实有些过于小儿科。

但若想让图片的分辨率达到当下普遍接受的水平,则往往需要大量的GPU资源,对于笔记本或手机这类设备而言,一方面会产生不小的发热量,另一方面等待时间也变得较为漫长,进而让使用体验大打折扣。

此外,“1秒钟”本身也是模型与算法的双重优化结果,对于目前很多人所使用的模型而言,还无法实现“一秒钟”的能力,20多秒的等待时间一般来说是常见的情况,而如果在此过程中,运算较为复杂,等待时间则会十分漫长,部分设备的发热量同样可以与运行大型游戏相媲美。

 

写在最后

端侧AI被业界视作是2024年挖掘电子产品消费新需求的突破口,不过这项技术才刚刚开始,离“成熟”二字无疑还有很长的道路,后续的快速迭代升级不可避免。

编 辑:魏德龄
声明:刊载本文目的在于传播更多行业信息,本站只提供参考并不构成任何投资及应用建议。如网站内容涉及作品版权和其它问题,请在30日内与本网联系,我们将在第一时间删除内容。本站联系电话为86-010-87765777,邮件后缀为#cctime.com,冒充本站员工以任何其他联系方式,进行的“内容核实”、“商务联系”等行为,均不能代表本站。本站拥有对此声明的最终解释权。
相关新闻              
 
人物
工信部张云明:大部分国家新划分了中频段6G频谱资源
精彩专题
专题丨“汛”速出动 共筑信息保障堤坝
2023MWC上海世界移动通信大会
中国5G商用四周年
2023年中国国际信息通信展览会
CCTIME推荐
关于我们 | 广告报价 | 联系我们 | 隐私声明 | 本站地图
CCTIME飞象网 CopyRight © 2007-2024 By CCTIME.COM
京ICP备08004280号-1  电信与信息服务业务经营许可证080234号 京公网安备110105000771号
公司名称: 北京飞象互动文化传媒有限公司
未经书面许可,禁止转载、摘编、复制、镜像