技術模組
編譯與 Runtime
硬體價值要透過軟體才能被客戶用上。VXI 編譯器與 Runtime 串接模型轉換、量化、排程與執行期控制，讓團隊以熟悉的工作流程，把模型更快帶到產品上。
軟體工具鏈 · 部署導入
核心價值
串接模型轉換、量化、排程與執行期控制，加速工作負載落地。
從主流工作流程出發
以常見的模型格式與開發流程為起點，降低團隊導入門檻。
硬體感知的最佳化
編譯器依 SRAM-CIM 與記憶體階層特性進行運算切分、排程與資料配置。
可觀測的執行期
Runtime 提供任務排程、資源管理與效能觀測，協助快速定位與調校。
運作方式
模型匯入
匯入訓練完成的模型，解析運算圖與資料型態。
量化與適配
依精度目標進行量化與運算元適配，並驗證輸出品質。
編譯與排程
將運算映射到計算陣列與記憶體階層，產生最佳化執行計畫。
部署與觀測
透過 Runtime 部署到目標平台，持續監測效能並調校。
評估時我們會與您確認
帶著這些資訊提出評估申請，VXI 團隊能更快提出具體的平台與導入建議。
- 使用中的模型框架、格式與版本
- 精度容忍度與量化策略偏好
- 作業系統、主機環境與整合介面
- 團隊開發流程與持續更新需求
常見問題
- 導入 VXI 需要改寫模型嗎？
- 多數模型可透過工具鏈直接轉換與適配。若有特殊運算元，VXI 工程團隊會在評估階段提出適配方案。
- 量化會影響模型準確度嗎？
- 量化需要在效率與精度之間取得平衡。VXI 工具鏈提供量化驗證流程，協助您在導入前確認輸出品質符合產品要求。
- Runtime 提供哪些能力？
- Runtime 負責任務排程、資源管理、多模型執行與效能觀測，讓應用程式以一致的介面使用 VXI 平台。
延伸閱讀的技術模組
- SRAM-CIM 計算路徑 — 權重駐留、近記憶體運算，減少資料往返
- 系統協同工程 — 連接模型、軟體、主機與記憶體的整合路徑
- 記憶體階層 — 權重、啟動值與快取協同配置