技术模块

编译与 Runtime

硬件价值要通过软件才能被客户用上。VXI 编译器与 Runtime 串接模型转换、量化、调度与运行时控制,让团队以熟悉的工作流程,把模型更快带到产品上。

软件工具链 · 部署导入

核心价值

串接模型转换、量化、调度与运行时控制,加速工作负载落地。

  • 从主流工作流程出发

    以常见的模型格式与开发流程为起点,降低团队导入门槛。

  • 硬件感知的优化

    编译器根据 SRAM-CIM 与内存层级特性进行计算切分、调度与数据配置。

  • 可观测的运行时

    Runtime 提供任务调度、资源管理与性能观测,帮助快速定位与调优。

运作方式

  1. 模型导入

    导入训练完成的模型,解析计算图与数据类型。

  2. 量化与适配

    按精度目标进行量化与算子适配,并验证输出质量。

  3. 编译与调度

    将计算映射到计算阵列与内存层级,生成优化的执行计划。

  4. 部署与观测

    通过 Runtime 部署到目标平台,持续监测性能并调优。

评估时我们会与您确认

带着这些信息提交评估申请,VXI 团队能更快提出具体的平台与导入建议。

  • 使用中的模型框架、格式与版本
  • 精度容忍度与量化策略偏好
  • 操作系统、主机环境与集成接口
  • 团队开发流程与持续更新需求

常见问题

导入 VXI 需要改写模型吗?
多数模型可通过工具链直接转换与适配。若有特殊算子,VXI 工程团队会在评估阶段提出适配方案。
量化会影响模型准确度吗?
量化需要在效率与精度之间取得平衡。VXI 工具链提供量化验证流程,帮助您在导入前确认输出质量符合产品要求。
Runtime 提供哪些能力?
Runtime 负责任务调度、资源管理、多模型运行与性能观测,让应用程序以一致的接口使用 VXI 平台。

延伸阅读的技术模块

查看 VXI 开发堆栈 · 评估时我们会与您确认

本页也提供: zh-TW · en · ja