苹果评估AI模型压缩技术:270亿参数大模型可直接运行于iPhone,为Siri升级铺路
苹果正与硅谷初创公司PrismML展开早期洽谈,后者声称可将大型AI模型压缩至能在iPhone上本地运行。若技术验证通过,此举将强化苹果的隐私主张,并为其迟滞已久的Siri升级提供关键支撑。
PrismML CEO表示,苹果已开始评估其技术。洽谈目前处于非常早期阶段,走向尚不明朗,但"进展顺利"。
此次消息发布恰在苹果推出iOS 27公测版的次日——这是苹果对Siri进行大幅改版后向公众开放的首次广泛测试,旨在与OpenAI和Anthropic的AI助手展开竞争。
对于苹果而言,将更多AI运算留在设备本地,意味着更低的响应延迟、更少的云计算成本,以及无需联网即可使用部分功能的能力——这些与其核心隐私定位高度契合。
PrismML的公开发布,为普通用户和投资者提供了在实验室之外检验其技术声明的机会。Counterpoint的Pathak总结道:
"云端与设备端AI的组合,能够提供更完整、更高效、更注重隐私的AI体验——复杂任务交由云端处理,敏感、时延敏感及隐私相关的任务则在设备端执行。"
压缩技术突破:54GB模型缩至4GB以内
PrismML由加州理工学院研究团队孵化而来,背后有Khosla Ventures支持。该公司周二公开发布了阿里巴巴开源模型Qwen的压缩版本,将约54GB的原始模型压缩至不足4GB,使全部270亿参数能够在iPhone 15或更新机型上直接运行。
PrismML CEO Babak Hassibi向CNBC表示,公司通过大幅简化模型内部信息的存储方式实现压缩——将每个数值从16位降至仅1至3个可能值,从而显著削减存储和运行模型所需的内存。
据该公司称,压缩后的模型内存占用减少10至15倍,响应速度提升6至8倍,能耗降低3至6倍。Hassibi坦承存在一定取舍:模型整体性能通常下降数个百分点,事实性记忆的衰减早于推理、数学和编程等能力。
目前,PrismML免费发布了两个压缩版本,适配iPhone、MacBook及搭载英伟达芯片的PC。公司表示,谷歌的开源模型Gemma是下一个压缩目标,此后还将处理需要数据中心硬件才能运行的更大规模前沿模型。
今年3月,该公司完成由Khosla Ventures领投的1625万美元种子轮融资,加州理工学院拥有底层专利并向其独家授权。
苹果本地AI布局:隐私与效率的双重驱动
苹果目前已在设备端本地运行部分AI功能,包括翻译、部分摘要生成及与个人信息密切相关的特性,较复杂的请求则路由至其私有云基础设施或外部模型。
Asymco创始人Horace Dediu表示,苹果的目标很可能是将绝大多数日常Siri交互保留在设备端,仅将最高需求的任务交付云端处理。本地处理意味着更低延迟、更强隐私保护,以及潜在的更低授权和云计算成本。
Creative Strategies总裁兼首席分析师Carolina Milanesi指出,更小的模型可让苹果将更多高需求功能移至iPhone本地,包括计算摄影、视频生成,以及依赖健康、药物等敏感数据的健康与健身工具。"设备端能做的越多越好,"她说。
苹果在推进本地AI方面具备潜在优势——其芯片与软件协同设计,对AI在设备上的运行拥有更精密的控制权。
分析师警示:规模化验证是关键门槛
尽管技术指标亮眼,分析师普遍提示,PrismML的声明尚需在受控演示之外得到验证。
Counterpoint Research研究总监Tarun Pathak表示,模型在长提示下的表现、多任务处理时的电池消耗,以及跨数百万次请求和数千种设备组合的可靠性,将是关键考量。他说:
"最终考验将是数百万次查询、数千种设备组合以及大规模稳健测试。"
IDC客户端处理器研究负责人Phil Solis则指出,功耗可能是最大的未知变量。一个足够强大、被频繁使用甚至在后台持续运行以执行智能体任务的模型,即便内存占用较低,也可能对手机电量造成显著消耗。
对芯片需求的影响:需求转移而非消失
PrismML的发布也触及了市场对AI效率提升能否最终压缩芯片需求这一持续争论。
摩根士丹利估计,苹果在2027财年的每比特动态随机存取内存平均成本可能同比上涨约190%,NAND存储成本上涨约180%。该机构预计苹果将把iPhone 18同等起售机型的价格提高约200美元以保护利润率。
PrismML表示,其压缩方案可使原本需要8块GPU运行的云端模型缩减至仅需1块,并让原本依赖服务器的模型迁移至手机和笔记本电脑。这可能降低单一AI任务所需的内存或算力,但并不必然导致整体芯片需求下滑。
D.A. Davidson分析师Gil Luria表示,模型瘦身并不会消除对处理器或内存的需求,只是将更多芯片从数据中心转移至手机等终端设备。"你仍然需要GPU,仍然需要内存,"他说。
他还补充,在单一设备上运行AI实际上可能比共享数据中心基础设施效率更低,因为手机芯片大多数时候处于闲置状态。此外,效率突破往往催生更多使用需求,而非带来支出下降。
市场对"AI所需内存少于预期"的信号向来反应灵敏。今年3月,谷歌发布TurboQuant论文——涉及在不损害模型性能的前提下削减内存使用——美光科技股价随即大幅下跌,尽管此后有所回升。
1.本网刊载内容,凡注明来源为“飞象网”和“飞象原创”皆属飞象网版权所有,未经允许禁止转载、摘编及镜像,违者必究。对于经过授权可以转载,请必须保持转载文章、图像、音视频的完整性,并完整标注作者信息和飞象网来源。
2.凡注明“来源:XXXX”的作品,均转载自其它媒体,在于传播更多行业信息,并不代表本网赞同其观点和对其真实性负责。
3.如因作品内容、版权和其它问题,请在相关作品刊发之日起30日内与本网联系,我们将第一时间予以处理。
本站联系电话为86-010-87765777,邮件后缀为cctime.com,冒充本站员工以任何其他联系方式,进行的“内容核实”、“商务联系”等行为,均不能代表本站。本站拥有对此声明的最终解释权。
从算力到智力:数据如何重塑AI时代
当算力竞赛的硝烟渐渐散去,真正的战场已悄然转向数据。尽管企业间对算力的追逐一刻也没有停歇,在2026年的今天,业界关心的,已不再仅仅是某个数据中心集成了多少算卡、算力有多强,而是开..[详细]
对话西古光通司正中:40年破局重生路,擘画高质量发展新蓝图
7月10日,西安高新技术产业开发区。在西安西古光通信有限公司成立40周年之际,西古光通总经理司正中接受了飞象网的专访。在轻松的谈话氛围里,司正中谈及公司的过往,并不是任何一家科技企业..[详细]
原生智能体落地,AI手机开启下半场!
2026世界人工智能大会(WAIC)将在上海举办。根据上海市经信委最新透露的信息,全球首款AI智能体手机将在大会上首秀。消息一经发布,“智能体手机”相关话题迅速成为关注焦点。那么,智能体手..[详细]
标准、频谱、技术、试验齐头并进:6G稳步向前
标准、频谱、技术、试验齐头并进:6G稳步向前[详细]
对话Lara Dewar:最具“现场温度”的MWC逛展建议,放飞思想从沟通开始
与Lara Dewar采访对谈在一种轻松的寒暄氛围中展开,作为GSMA首席营销官的她并没有开门见山地去推荐某几个具体参展项目,而是聊起了会场之外上海世纪公园的优美绿道,以及北京的历史氛围。
[详细] 博识广联科技刘红杰:监测站端部署AI智能体是个工程化好出口
7月3日,在2026全球数字经济大会无线技术与应用专题论坛上,刘红杰带来一场题为《AI 驱动智能频谱管理》的主旨演讲。在演讲中,刘红杰还把另外两个更加尖锐的问题一并抛向台前。一个是关于智..[详细]













