对话上交大程远:AI的终局不在云端,而在“感算一体”的物理世界
对话上交大程远:AI的终局不在云端,而在“感算一体”的物理世界
来源类型: 微信公众号文章
日期: 2026-06-02
标签: AI, OpenClaw, 办公效率, 网络安全, 编程, 数字化, 机器人, 芯片, 大模型
原文链接: https://mp.weixin.qq.com/s/HJz17veeSfDGd9OWfeGMSQ
摘要
如今,在关于 AI 的讨论中,大模型仍然占据着最突出的位置。但在它之外,另一条更贴近现实世界的方向正在悄然加速:端侧 AI。 所谓端侧AI,是指将算法和模型直接部署在机器人、智能汽车、消费电子、智能制造等终端设备上,使设备能够在本地完成数据采集、分析、推理和决策,而无需依赖云端服务器持续联网传输数据的技术模式。 以具身机器人为例,如果其动作决策完全依赖云端计算,网络波动可能导致抓取、避障或交互动作延迟,影响操作安全和自然性;而搭载端侧 AI,它就能在本地毫秒级完成手势识别、物体抓取或行人避让,不仅降低功耗,还能确保交互过程中敏感视频或传感数据不外传,提升隐私与安全性。 从云端到端侧,不仅...
核心内容
如今,在关于 AI 的讨论中,大模型仍然占据着最突出的位置。但在它之外,另一条更贴近现实世界的方向正在悄然加速:端侧 AI。
所谓端侧AI,是指将算法和模型直接部署在机器人、智能汽车、消费电子、智能制造等终端设备上,使设备能够在本地完成数据采集、分析、推理和决策,而无需依赖云端服务器持续联网传输数据的技术模式。
以具身机器人为例,如果其动作决策完全依赖云端计算,网络波动可能导致抓取、避障或交互动作延迟,影响操作安全和自然性;而搭载端侧 AI,它就能在本地毫秒级完成手势识别、物体抓取或行人避让,不仅降低功耗,还能确保交互过程中敏感视频或传感数据不外传,提升隐私与安全性。
从云端到端侧,不仅是算力位置的迁移,更需要对整体架构进行重写。传统设备长期遵循“先采集、后传输、再计算”的串行逻辑,传感器与处理器各自为政,数据搬运会消耗大量时间与能量。而端侧 AI 则需要做到“感算一体”:让感知与计算在物理层面深度融合,实现“感知即计算”。
在这方面,上海交通大学人工智能学院副教授程远的研究方向颇具代表性。从清华大学的前沿交叉,到上海交通大学的系统研究,再到横跨学术界与产业界的多段经历,他始终聚焦一个问题:如何让智能真正“落地”?
在采访中,程远对于每一个问题的解答几乎都是以“系统性工程”的角度去看待。无论是探索突破传统存算瓶颈的光子计算,还是重构端侧硬件架构,他认为,AI 的规模化落地并非依赖算法单点突破,而是算力底座、物理器件与软硬件协同设计的同步演进。
这种思路,也体现在他的创业实践中。2019 年,程远还在上交大读博期间作为创始人成立了辛米尔科技,现担任首席科学家。作为一家端侧 AI 公司,辛米尔试图打破传统冯·诺依曼架构的边界,将感知、计算与行动深度融合。在他们看来,AI 的下半场需要的不是更大的模型,而是更高效、更实时、能够嵌入物理设备的硬件原生智能系统。
而这种硬件原生的端侧能力,也是 Agentic AI 从“对话”走向“行动”的关键。当设备具备本地实时感知与自主决策能力,AI 便能摆脱对云端调度的绝对依赖,在真实场景中形成感知-规划-执行的闭环,真正具备与环境持续交互的主体性。
在这次对话中,我们试图沿着这一线索,理解一位同时身处学术前沿与产业一线的研究者,如何看待端侧 AI 的技术拐点、Agentic AI 从云端走向终端的系统演进,以及光子计算等底层硬件创新将如何重塑下一代智能设备的形态与边界。
以下是对话内容:
DeepTech:2026 年被称为 Agentic AI 元年,AI 正在从 chatbot 向可行动的 agent 转变。你如何理解这波 Agentic AI 热潮?它与此前的大模型热有何本质区别?
程远:这波热潮最核心的变化,是 AI 从“只会说”真正走向“会去做”。前一波大模型热潮更多聚焦在内容生成和问题回答,本质上是信息输出。而 Agentic AI 往前迈进了一步,它进入了任务闭环,需要感知环境、做出判断、调用工具,最终落实到具体的行动和动作。
最大的区别在于评判标准变了。以前大家关心模型聪不聪明,现在更关心它能否把交代的事情做完,而且要做得稳定、低延时、鲁棒可靠。这意味着问题已经不只是模型层面的问题,而是系统性问题。可以说,AI 的上半场解决的是"大模型能不能做出来",下半场要回答的是"能不能真正用起来,并且规模化部署"。Agent 热潮正代表了这个转折点。
DeepTech:目前大多数人谈到 Agentic AI 时,首先想到的是软件层面的 agent,比如前段时间很火的 OpenClaw 等智能体,它们能订机票、写代码、完成基础工作。但你做的是硬件和端侧 AI,能否介绍一下端侧 agent 与云端 agent 之间的关系?你曾表示 agent 的未来不一定在云端,这个观点基于什么考虑?
程远:我一直认为云端和端侧不是替代关系,而是分工关系。云端更像大脑,适合做复杂规划、长链条逻辑推理和知识调用。端侧则更像我们的反射神经,负责本地高频、实时性的闭环响应。
一旦进入物理世界,很多事情是等不起的。例如机器人的避障、数据抓取、安全防护,制造业的人机协作安全控制与效能提升, 以及消费设备的实时交互和响应,这些都要求在本地快速完成感知、计算和动作的闭环。不可能所有数据都传到计算中心再返回。
所以未来真正成熟的 agent,一定不只活在云端, 而是云端与端侧协同的系统。越贴近真实物理世界,这个趋势就越明显。因为在具身智能、先进制造、消费终端这些场景中,时延、功耗、带宽、隐私和成本都是绕不过去的约束。
DeepTech:为了更好的实现云端和端侧的协同,你重点研究的技术方向是"感算一体"。能否用通俗的语言解释一下什么是“感算一体”,它有什么特点?
程远:通俗来讲,感算一体就是不要把数据搬来搬去,而是在数据产生和收集的地方就把计算完成。传统架构里,感知、存储和计算是分开的。处理一个数据需要:采集—传输—存储—计算。这个过程消耗了大量通信开销,产生很多功耗和延时。实际上,很多中间花费都在数据搬运上,这部分甚至会占到总处理量的 70% 以上。
感算一体的特点是把计算融合到感知侧,让系统更快、更高效、更节约成本地处理多模态数据,比如视频流、音频流、传感信号等。它特别适合那种既要观察周边环境、又要马上做出反应的系统, 比如机器人、智能制造设备、消费电子终端。
DeepTech:但端侧 AI 客户面临“效率三角”的挑战:既要毫秒级实时响应、又要极低功耗和部署成本、还要处理视频流和时序信号这样的多模态数据。这三者在传统架构下似乎是互相矛盾的。感算一体是怎么同时解决这三个问题的?
程远:传统架构里,这三件事确实经常互相冲突。想要更快,就得堆算力;一旦堆算力,功耗和成本就会上去;再叠加多模态连续数据,系统复杂度又更高。所以很多方案实验室里能跑,到了现场就不经济了。
感算一体的关键,不是简单把功能实现,而是把链路做短,把很多无效的数据处理和通讯舍弃,在源头即完成计算、决策与行动。这样一来,实时性、功耗和成本就不再完全对冲。
比如在人机协作场景里,机器人需要实时判断人是不是进入危险区域、人与设备的距离是不是越界、当前动作是不是存在安全风险。这里真正需要的不是“看得很懂”,而是“发现风险就立刻响应”。再比如在消费终端,设备越来越强调本地实时交互,这时候系统既要低功耗常开,又要快速响应用户动作和环境变化。
DeepTech:传统架构的这个障碍一直存在。为什么过去十几年它没能大规模产业化?当时遇到了什么困难?
程远:这不只是概念性问题,更多是工程化难题。原理大家早就知道了,但过去一直难以产业化,因为它依赖全链条协同。不是说做出一款芯片、开发出某个算法、或者一个 SoC 模组就能支撑感算一体系统。它要求算法、芯片、传感、系统以及场景都一起打通,才能真正落地实现。
过去很多方案停留在实验验证阶段,本质上并没有回答工程上的关键问题:能不能稳定跑下去? 能不能适配不同场景? 能不能真正节约成本? 能不能量产交付? 这些问题解决不了,感算一体这个原理就无法变成产品。
我们团队这些年一直把这个问题当成系统能力来做,而不是单点技术,我们强调算力-算法协同设计方
...(内容截断,完整内容请查看原文)
本页由自动化脚本生成,待人工审核补充