首页|必读|视频|专访|运营|制造|监管|大数据|物联网|量子|元宇宙|博客|特约记者
手机|互联网|IT|5G|光通信|人工智能|云计算|芯片报告|智慧城市|移动互联网|会展
首页 >> 终端 >> 正文

自研大模型、打造“智能体”,vivo打开叙事新空间

2023年11月3日 09:47  CCTIME飞象网  作 者:高靖宇

飞象网讯(高靖宇/文)近年来手机产业发展进入创新期,手机厂商正试图寻找新的差异化出路。特别今年以来,随着ChatGPT的横空出世和全民级应用发展趋势,众多手机厂商纷纷入局AI大模型赛道,成为当下最火热的技术赛道。

而在这场大模型竞赛中,vivo显然走在了前列。11月1日,在2023 vivo开发者大会上,vivo正式发布自研蓝心大模型BlueLM、OriginOS 4、自研蓝河操作系统BlueOS。其中,蓝心大模型是vivo自研通用大模型矩阵,从开源到完全自研历时6年,包括十亿、百亿、千亿三个不同参数量级的5款自研大模型,全面覆盖核心应用场景,并将大模型矩阵能力全面融入到OriginOS 4。这意味着,vivo端侧大模型已从前沿技术探索进入到应用和产业级落地新阶段。

大模型与手机结合之后,智能手机又有了新叙事,为未来智能手机发展探索出新方向。vivo副总裁、OS产品副总裁周围预判,未来手机的发展趋势或将进化为“智能体”。

如何将大模型装入手机?答案是:端云协同

通过类似ChatGPT、文心一言的APP就能使用大模型,为什么还要把大模型装入到手机端侧呢?这是因为,与单纯在云端部署生成式 AI 应用和服务相比,手机终端侧部署生成式 AI 可以实现在设备端运行复杂的AI算法,从而减少对云端服务的依赖,个人私密信息也不用上传的云端,保障数据安全。此外,手机可以更好地理解和响应用户的需求,从而满足用户对更加智能化手机的期待。

那么,大模型千亿级的参数量如何在手机上流程运行,此时端云协同的混合架构就成为关键。vivo的蓝心大模型包含有10亿、70亿、700亿、1300亿、1750亿五种参数规模,其中10亿量级模型是主要面向端侧场景打造的专业文本大模型,具备本地化的文本总结、摘要等能力。70亿模型是面向手机打造的端云两用模型,具有优秀的语言理解、文本创作能力,同时,上述两个量级的模型支持高通和MTK最新旗舰双平台端侧化部署,在保证数据安全的同时,在出词速度、响应时间、内存占用等方面也非常优秀,实现了安全与性能的双重并举。

vivo同时在做的有10亿、70亿、700亿、1300亿、1750亿五种参数规模的蓝心大模型,其中10亿和70亿已经可以由本地算力支撑,而更大的数据仍然需要运行在云端。为此,vivo并不会强制用户必须使用端侧或者云端,而是交给用户自己去选择,比如隐私保密性不需要那么高的输入法等功能,可以选择在云端运行,而公司文件、相册等,就可以利用手机本身的算力来完成。

700亿模型是面向云端服务的主力模型,其综合能力,在C-Eval、CMMLU、SuperCLUE(10月)等榜单中均处于中文大模型的第一梯队。另外1300亿、1750亿模型也将在更复杂的场景中以更丰富的知识和推理能力为用户带来更专业的智能体验。

除了与云端协作,手机大模型还面临算法和算力的挑战。vivo整个团队花了六年多时间不断解决问题,在算法方面,在预训练阶段,vivo利用最前沿的Transformer架构,改良了注意力机制、位置编码等关键模块,并在包含了3.3万亿词的大规模多语言数据集上进行训练,最终使得蓝心大模型具备了超强的基础能力。算力上,vivo也在积极通过信息技术应用创新去解决算力问题,组建了一只150人的工程团队,持续地提升集群的效率,目前vivo千亿模型训练周期低于2个月,百亿模型不到2周。

目前,vivo构建了超过100万条高质量的多语言多任务指令数据进行学习和训练,从而让蓝心大模型更好地理解用户的意图,适应各种目标任务。并在安全部署中通过了中国信通院内容审核服务系统评测,在文本、语音和视频内容识别需要检测的15个大类中,14个大类获得最高的5星等级,1个获得4星等级。

全新OriginOS 4,让手机越用越好用

在本次发布会上,vivo带来了全新升级的OriginOS4,它将大模型能力与系统结合,打造“1+2+N”智能系统体验,蓝心小V则是具体的应用呈现。

与传统AI应用相比,蓝心小V拥有更为自然的人机交互方式,强大的自然对话能力、信息处理能力以及洞察能力,不仅支持通过语音、文字、拖拽等方式接受并处理信息数据,还可以针对不同问题以合适的形式进行信息呈现,这些让它能够像一位专属私人助理一般,在自然交流中帮助用户完成找文件、搜照片、总结归纳信息、快捷创建日程等操作,带来更加智慧便捷的AI体验。

为了让大模型在用户端得到广泛应用,vivo还推出了可在任意手机安装的蓝心千询APP,具备同样强大的自然对话能力和信息处理能力,而与蓝心小V不同的是,蓝心千询完全基于云端大模型处理任务,不会涉及用户隐私数据。

此外,针对硬件配置较低的终端设备,vivo推出了一个全新的操作系统——蓝河BlueOS,它从全栈视角进行了高性能架构设计,例如,在编程语言、运行时Runtime、系统调度、框架、显示和内存等技术方向取得了技术突破,能支持蓝河操作系统流畅地运行在各种配置的设备上。而在智慧层面,它结合了先进的AI大模型,接入蓝心大模型的多模态能力。

据vivo介绍,蓝河操作系统首发将落地vivo Watch3搭载。用户可以通过语音的方式,基于AI能力,个性化地创作手表表盘。

目前AI大模型在手机端侧的应用还在起步阶段,但却是未来必争的技术高地。根据IDC预测,到2026年,中国市场中近50%的终端设备的处理器将带有AI引擎技术。这意味着,手机厂商拥有AI大模型的能力将变得越来越重要。而vivo布局大模型绝非“蹭热点”,历经六年的蓄势,vivo通过“1+2+N”的智能系统将大模型能力在终端侧全面释放,让AI有机会走入千家万户,为每一位用户带来更加智慧且贴心的体验。

编 辑:高靖宇
声明:刊载本文目的在于传播更多行业信息,本站只提供参考并不构成任何投资及应用建议。如网站内容涉及作品版权和其它问题,请在30日内与本网联系,我们将在第一时间删除内容。本站联系电话为86-010-87765777,邮件后缀为#cctime.com,冒充本站员工以任何其他联系方式,进行的“内容核实”、“商务联系”等行为,均不能代表本站。本站拥有对此声明的最终解释权。
相关新闻              
 
人物
工信部张云明:大部分国家新划分了中频段6G频谱资源
精彩专题
专题丨“汛”速出动 共筑信息保障堤坝
2023MWC上海世界移动通信大会
中国5G商用四周年
2023年中国国际信息通信展览会
CCTIME推荐
关于我们 | 广告报价 | 联系我们 | 隐私声明 | 本站地图
CCTIME飞象网 CopyRight © 2007-2024 By CCTIME.COM
京ICP备08004280号-1  电信与信息服务业务经营许可证080234号 京公网安备110105000771号
公司名称: 北京飞象互动文化传媒有限公司
未经书面许可,禁止转载、摘编、复制、镜像