技術モジュール

コンパイラとランタイム

ハードウェアの価値はソフトウェアを通じてお客様に届きます。VXI コンパイラとランタイムはモデル変換、量子化、スケジューリング、ランタイム制御を連携させ、チームが慣れ親しんだワークフローでモデルをより速く製品へ届けられるようにします。

ソフトウェア · 導入・展開

重要性

モデル変換、量子化、スケジューリング、ランタイム制御を連携させ、導入を加速します。

  • 慣れ親しんだワークフロー起点

    一般的なモデル形式と開発フローを出発点にし、チームの導入ハードルを下げます。

  • ハードウェア認識型最適化

    コンパイラが SRAM-CIM とメモリ階層の特性に沿って演算分割・スケジューリング・データ配置を行います。

  • 可観測なランタイム

    タスクスケジューリング、リソース管理、性能の可観測性により、課題の特定とチューニングを迅速化します。

動作原理

  1. モデル取り込み

    学習済みモデルを取り込み、計算グラフとデータ型を解析します。

  2. 量子化と適合

    精度目標に合わせて量子化と演算子の適合を行い、出力品質を検証します。

  3. コンパイルとスケジューリング

    計算アレイとメモリ階層へ演算をマッピングし、最適化された実行計画を生成します。

  4. 導入と観測

    ランタイムを介してターゲットプラットフォームへ導入し、性能を継続的に監視・調整します。

評価時に確認する事項

これらの情報を添えて評価・見積もりを依頼いただくと、VXIチームがより迅速に具体的なプラットフォームと導入計画をご提案できます。

  • 使用中のモデルフレームワーク・形式・バージョン
  • 許容精度と量子化方針
  • OS・ホスト環境・統合インターフェース
  • チームの開発ワークフローと更新頻度

よくある質問

VXI を導入するにはモデルを書き換える必要がありますか?
多くのモデルはツールチェーンで直接変換・適合できます。特殊な演算子がある場合は、評価段階で VXI エンジニアが適合プランを提案します。
量子化は精度に影響しますか?
量子化は効率と精度のバランスです。VXI ツールチェーンには量子化の検証フローが含まれており、導入前に出力品質が製品要件を満たすことを確認できます。
ランタイムは何を提供しますか?
ランタイムはタスクスケジューリング、リソース管理、マルチモデル実行、性能の可観測性を担い、アプリケーションが VXI プラットフォームを一貫したインターフェースで利用できるようにします。

関連する技術モジュール

VXI 開発スタックを見る · 評価時に確認する事項

本ページは以下でも提供: zh-TW · zh-CN · en