機器人 AI · 2026年10月3日
機器人端側 AI 的功耗預算：先問瓦數，再問算力
機器人能放進多少 AI，往往由電池、散熱與機殼決定。本文整理工程團隊評估端側大模型時，應該先回答的五個問題。
在機器人裡，運算只是功耗的一部分
一台移動機器人的電力，要分給驅動馬達、感測器、通訊、主控與 AI 運算。電池容量固定時，AI 運算多用一瓦，續航就少一些；機殼越封閉，能散掉的熱就越少。對機器人來說，AI 能力的上限常常不是晶片能跑多快，而是整機能分給它多少瓦數。
為什麼峰值算力不是好指標
峰值算力描述的是理想條件下的運算能力。但大模型在逐字產生內容時，多數時間受限於資料搬運，而不是運算。兩顆峰值算力相同的晶片，如果記憶體架構不同，實際的 token 速率與每次任務的能耗可能差很多。
比較有意義的問題是：在您的模型與功耗上限下，每秒能產生多少 token，每完成一次任務要消耗多少能量。
估算的起點：一條簡單的公式
當權重放在外部記憶體、一次處理一個請求時，可以先用這條公式估出速度上限：
- token 速率上限 ≈ 外部記憶體頻寬 ÷ 每個 token 需要讀取的位元組數
搬運帶來的功耗，大致會隨「每個 token 的搬運量 × token 速率」增加。因此，減少每個 token 的外部搬運，可以同時改善速度與功耗。
工程團隊應該先回答的五個問題
- 整機留給 AI 運算的功耗與散熱上限是多少？是持續值還是短時峰值？
- 目標模型的參數量、量化位元數與上下文長度是多少？
- 哪些判斷必須在本地完成？可以容忍多少延遲？
- 場域資料可以離開設備或廠區嗎？
- AI 運算要如何和現有主控分工？介面與作業系統有哪些限制？
協處理器的思路
許多機器人已經有穩定的主控與運動控制軟體，重新設計主控的成本與風險都很高。把大模型推理交給專用協處理器，讓主控繼續負責運動控制與安全，是改動較小的一條路。VXI-IR5 就是依照這個思路設計的端側大模型協處理器。
想討論您的機型與功耗條件，可以參考 機器人與具身智能解決方案，或先用 模型記憶體容量估算器 估算模型需求。