技術モジュール
コンパイラとランタイム
ハードウェアの価値はソフトウェアを通じてお客様に届きます。VXI コンパイラとランタイムはモデル変換、量子化、スケジューリング、ランタイム制御を連携させ、チームが慣れ親しんだワークフローでモデルをより速く製品へ届けられるようにします。
ソフトウェア · 導入・展開
重要性
モデル変換、量子化、スケジューリング、ランタイム制御を連携させ、導入を加速します。
慣れ親しんだワークフロー起点
一般的なモデル形式と開発フローを出発点にし、チームの導入ハードルを下げます。
ハードウェア認識型最適化
コンパイラが SRAM-CIM とメモリ階層の特性に沿って演算分割・スケジューリング・データ配置を行います。
可観測なランタイム
タスクスケジューリング、リソース管理、性能の可観測性により、課題の特定とチューニングを迅速化します。
動作原理
モデル取り込み
学習済みモデルを取り込み、計算グラフとデータ型を解析します。
量子化と適合
精度目標に合わせて量子化と演算子の適合を行い、出力品質を検証します。
コンパイルとスケジューリング
計算アレイとメモリ階層へ演算をマッピングし、最適化された実行計画を生成します。
導入と観測
ランタイムを介してターゲットプラットフォームへ導入し、性能を継続的に監視・調整します。
評価時に確認する事項
これらの情報を添えて評価・見積もりを依頼いただくと、VXIチームがより迅速に具体的なプラットフォームと導入計画をご提案できます。
- 使用中のモデルフレームワーク・形式・バージョン
- 許容精度と量子化方針
- OS・ホスト環境・統合インターフェース
- チームの開発ワークフローと更新頻度
よくある質問
- VXI を導入するにはモデルを書き換える必要がありますか?
- 多くのモデルはツールチェーンで直接変換・適合できます。特殊な演算子がある場合は、評価段階で VXI エンジニアが適合プランを提案します。
- 量子化は精度に影響しますか?
- 量子化は効率と精度のバランスです。VXI ツールチェーンには量子化の検証フローが含まれており、導入前に出力品質が製品要件を満たすことを確認できます。
- ランタイムは何を提供しますか?
- ランタイムはタスクスケジューリング、リソース管理、マルチモデル実行、性能の可観測性を担い、アプリケーションが VXI プラットフォームを一貫したインターフェースで利用できるようにします。
関連する技術モジュール
- SRAM-CIM 計算経路 — データ移動を削減する重み駐留と近メモリ演算
- システム協調エンジニアリング — モデル・ソフトウェア・ホスト・メモリをつなぐ統合パス
- メモリ階層 — 重み・活性化・キャッシュの協調配置