PT展大咖谈︱算能科技吴智鹏：从云端到边缘，为了用户

飞象网讯 （孙迎新/文）靠云端算力跑大模型不成问题，但工业质检、仓储分拣、安防、家庭这类时延要求低、数据量大、对成本极度敏感的场景，它们的算力问题如何解决？

当标称算力与可用算力之间产生落差，工具链不成熟、低精度量化跑不通、通用模型难以适配具体场景，碰到这些问题又该怎么办？

9月23日，在2026年中国国际信息通信展览会期间，厦门算能科技股份有限公司产品总监吴智鹏接受了飞象网的专访，阐述了算能科技在云、边、端三条算力线上，以自研TPU为核心的整体布局与工具链思路，并介绍了把算力下沉到边缘侧、装进用户买得起的设备里的真正价值。

从Token账本到芯片矩阵：给算力找到出路

在算能科技的语境里，边缘侧比外界通常理解的范围要更宽。

吴智鹏认为，早期边缘侧更像是云端的延伸。云端处理不过来的任务，就放到边缘去做。这类任务有着共同特征：时延低、数据量大、对成本敏感。所以干脆就把边缘和端侧的AI设备放在一起。

但这个定位正在被重估。我们看到的就是，云端越火，边缘侧的机会反而越大。

吴智鹏点破两者在分工上的区别：“云端解决了能不能用的问题，边缘侧解决的是用不用得起的问题。”

他算了一笔账，现在烧Token特别贵，大型公司里如果每个人都这么用，成本高得吓人；如果在边缘侧放一些合理的设备，能够与云端协同，那么整体成本就能压得很低。

当然成本只是一半的问题，还有另一半藏在工厂车间里。

工业检测对时延要求非常严，传送带走得越快，反馈速度就得越高。像这种场景如果全交给云端来执行，那么一来一回的网络时延先不说，网络本身就存在不稳定的因素。“工厂是一个7×24的环境，不可能说网络断了，就让这个工厂停摆。”吴智鹏解释，这种场景正好落在边缘侧的射程内。

基于以上判断，吴智鹏把边缘侧的价值归为两条：成本足够低，能带来实际价值；比云端更稳定可靠、反馈更快。如果往更远处看，还有一层隐私账：当数据私有越来越被重视，就不可能把所有数据都堆积在一个地方，边缘芯片因此有了新的舞台。

也正是基于以上判断，让算能科技铺开了一个芯片矩阵。

算能科技2019年成立以来，在七年间陆续推出十几颗芯片。而本次通信展期间，展示的产品也不止边缘一类，在云端有面向数据中心训练推理的算力卡，终端还有给IPC、摄像头用的小芯片。

标称TOPS只是数字：工具链、低精度与场景落地

其实从企业的角度来看，只要把参数标得漂亮，会非常得省事。

但吴智鹏并不这么看。“作为一家芯片设计公司，其实最关键的反而不是标了多少TOPS，因为这只是一个数字而已。”真正决定胜负的是工具链，它的底层是硬件，上层是软件，工具链能够决定硬件能力到底可以发挥出几分。

他打了个比方：一颗64TOPS的芯片，如果利用率做到70%，那将带来实打实的算力；反观另一颗芯片即便标着上千TOPS，但利用率只有1%，那意义也不大。

吴智鹏进一步解释，模型适配是工具链重要的另一面。

传统CV类的算子，95%以上的通用算法，算能科技已经完成适配；大模型是目前最重点的方向，通义千问、Llama、面壁智能MiniCPM、智谱GLM、MiniMax，还有国内大部分开源模型，算能科技基本都适配过。

在模型适配过程中，量化是绕不开的一关。吴智鹏指出，基于工具链，不管是GGUF、AWQ，还是其他量化方式，算能科技都有实践。

光看TOPS不看精度，基本没多大意义。算能科技在本次通信展上展示的新芯片，更是原生支持INT4、INT8的精度。吴智鹏表示，在边缘侧和端侧，“我们是第一家支持这种精度下、对大模型适配比较好的一家公司。”

除了精度以外，从真实场景出发，边缘算力的价值更容易看清。

吴智鹏举了一个具体案例。在某粮食仓储企业，仓库里要盯温湿度，要判断有没有危险情况，就需要多路摄像头持续监测。算能科技在其中就扮演算力和推理提供者的角色，当出现异常情况，就要第一时间识别、告警、给用户发送通知。

整个监测过程的要点在于，它不可能把所有视频先传到云端识别再传回本地，那样既拖延时间，又会给网络增添巨大的负担。

吴智鹏还举了另一个物流企业的案例。在一些物流网点，采用的还是半自动化分拣流程，靠人工与摄像头进行分拣效率并不高，但通过算能科技的智能设备，就可以支撑16路甚至32路的分拣工作流，“这对于一个网点来说，可能只需要部署这么一台设备就完全搞定。”

两条曲线的交点，也是端侧爆发的拐点

谈及未来几年，AI硬件与大模型的发展趋势，吴智鹏给出一张曲线图。

在这张图上，一条是硬件的曲线，吴智鹏画出的趋势是，“它一定会越来越往上”；另一条是模型的曲线，吴智鹏认为“它会越来越往下走”。

他进一步解释，往下走并不是变弱。因为在同等参数规模下，8B、9B的模型能力，会随时间快速迭代。而在硬件曲线上行、模型曲线下行，最终两条曲线产生交汇的时候，就是他认为边缘侧、端侧真正爆发的时刻。

吴智鹏认为，“现在可能还处于一个相对前期的过程，但我相信这个曲线会走得越来越陡。”

与模型曲线同步往下走的，还有算法精度。从FP16到INT8再到INT4，算能科技提前把INT4嵌进了芯片。吴智鹏认为，模型形态已经出现两极化，一边是顶尖云端模型越来越大，而另一边是端侧模型能力越来越强，也越来越专。

针对专用模型，吴智鹏认为，未来的大模型不一定是通用的，而是专用的。比如有拍真人短剧的模型、处理法律文书的模型、医生分析病历的模型等等，只有经过通用模型调优、极具场景代表性的模型才可能脱颖而出。

回到硬件开发的初心，从芯片架构到工具链，从分拣流水线的摄像头到家里的智能门锁，吴智鹏坚持一个判断：技术终将要落到用户买得起的设备上。

这个判断也解释了算能科技为什么要把模型适配、调优这些极其耗费精力与资源的活，前置到一个很重要的地位，因为云端解决的是能不能用的问题，边缘侧解决的是用不用得起的问题。