机器人 AI · 2026年10月3日

机器人端侧 AI 的功耗预算:先问瓦数,再问算力

机器人能放进多少 AI,往往由电池、散热与机壳决定。本文整理工程团队评估端侧大模型时,应该先回答的五个问题。

在机器人里,运算只是功耗的一部分

一台移动机器人的电力,要分给驱动电机、传感器、通信、主控与 AI 运算。电池容量固定时,AI 运算多用一瓦,续航就少一些;机壳越封闭,能散掉的热就越少。对机器人来说,AI 能力的上限常常不是芯片能跑多快,而是整机能分给它多少瓦数。

为什么峰值算力不是好指标

峰值算力描述的是理想条件下的运算能力。但大模型在逐字生成内容时,多数时间受限于数据搬运,而不是运算。两颗峰值算力相同的芯片,如果内存架构不同,实际的 token 速率与每次任务的能耗可能差很多。

比较有意义的问题是:在您的模型与功耗上限下,每秒能生成多少 token,每完成一次任务要消耗多少能量。

估算的起点:一条简单的公式

当权重放在外部内存、一次处理一个请求时,可以先用这条公式估出速度上限:

  • token 速率上限 ≈ 外部内存带宽 ÷ 每个 token 需要读取的字节数

搬运带来的功耗,大致会随「每个 token 的搬运量 × token 速率」增加。因此,减少每个 token 的外部搬运,可以同时改善速度与功耗。

工程团队应该先回答的五个问题

  1. 整机留给 AI 运算的功耗与散热上限是多少?是持续值还是短时峰值?
  2. 目标模型的参数量、量化比特数与上下文长度是多少?
  3. 哪些判断必须在本地完成?可以容忍多少延迟?
  4. 场景数据可以离开设备或厂区吗?
  5. AI 运算要如何和现有主控分工?接口与操作系统有哪些限制?

协处理器的思路

许多机器人已经有稳定的主控与运动控制软件,重新设计主控的成本与风险都很高。把大模型推理交给专用协处理器,让主控继续负责运动控制与安全,是改动较小的一条路。VXI-IR5 就是依照这个思路设计的端侧大模型协处理器。

想讨论您的机型与功耗条件,可以参考 机器人与具身智能解决方案,或先用 模型内存容量估算器 估算模型需求。

参考资料

  1. S. Williams, A. Waterman, D. Patterson, "Roofline: an insightful visual performance model for multicore architectures", Communications of the ACM 52(4), 2009