ロボット AI · 2026年10月3日

ロボットのオンデバイス AI の電力予算:演算性能より先にワット数を

ロボットにどれだけの AI を載せられるかは、多くの場合バッテリー、放熱、筐体で決まります。オンデバイス大規模モデルを評価するとき、エンジニアリングチームが最初に答えるべき 5 つの問いをまとめました。

ロボットでは、演算は消費電力の一部にすぎない

移動ロボットの電力は、駆動モーター、センサー、通信、メインコントローラ、AI 演算で分け合います。バッテリー容量が決まっていれば、AI に 1 W 多く使うほど稼働時間は短くなり、筐体が密閉されているほど放熱できる熱は少なくなります。ロボットにとって AI 能力の上限は、チップの速さではなく、機体が AI に割り当てられるワット数であることが多いのです。

なぜピーク演算性能は良い指標ではないのか

ピーク演算性能は理想条件での演算能力を表します。しかし大規模モデルが出力を生成するとき、多くの時間は演算ではなくデータ転送に制約されています。ピーク性能が同じ 2 つのチップでも、メモリアーキテクチャが違えば、実際のトークン速度やタスクあたりのエネルギーは大きく異なることがあります。

より意味のある問いは、「お客様のモデルと電力上限のもとで、毎秒何トークンを生成でき、1 回のタスクにどれだけのエネルギーを使うか」です。

試算の出発点:ひとつのシンプルな式

重みが外部メモリにあり、リクエストを 1 件ずつ処理する場合、速度の上限は次の式で見積もれます。

  • トークン速度の上限 ≈ 外部メモリ帯域 ÷ トークンあたりの読み出しバイト数

データ転送による消費電力は、おおよそ「トークンあたりの転送量 × トークン速度」に比例して増えます。そのため、トークンあたりの外部転送を減らすことは、速度と消費電力の両方を改善します。

最初に答えるべき 5 つの問い

  1. 機体が AI 演算に割り当てられる電力と放熱の上限はどれくらいか。持続値か、短時間のピークか。
  2. 対象モデルのパラメータ数、量子化ビット数、コンテキスト長は。
  3. どの判断をローカルで行う必要があり、どの程度の遅延を許容できるか。
  4. 現場のデータを機器や構外に出してよいか。
  5. AI 演算を既存のコントローラとどう分担するか。インターフェースや OS の制約は。

コプロセッサという考え方

多くのロボットには、すでに実績のあるコントローラとモーション制御ソフトウェアがあり、コントローラを作り直すコストとリスクは大きくなります。大規模モデルの推論を専用コプロセッサに任せ、モーション制御と安全はコントローラが引き続き担う構成は、変更の小さい選択肢です。VXI-IR5 は、この考え方に基づいて設計したオンデバイス大規模モデル・コプロセッサです。

機種や電力条件についてのご相談は ロボット・エンボディドAI を、モデル要件の試算は モデルメモリ容量見積もりツール をご覧ください。

参考資料

  1. S. Williams, A. Waterman, D. Patterson, "Roofline: an insightful visual performance model for multicore architectures", Communications of the ACM 52(4), 2009