技术模块
编译与 Runtime
硬件价值要通过软件才能被客户用上。VXI 编译器与 Runtime 串接模型转换、量化、调度与运行时控制,让团队以熟悉的工作流程,把模型更快带到产品上。
软件工具链 · 部署导入
核心价值
串接模型转换、量化、调度与运行时控制,加速工作负载落地。
从主流工作流程出发
以常见的模型格式与开发流程为起点,降低团队导入门槛。
硬件感知的优化
编译器根据 SRAM-CIM 与内存层级特性进行计算切分、调度与数据配置。
可观测的运行时
Runtime 提供任务调度、资源管理与性能观测,帮助快速定位与调优。
运作方式
模型导入
导入训练完成的模型,解析计算图与数据类型。
量化与适配
按精度目标进行量化与算子适配,并验证输出质量。
编译与调度
将计算映射到计算阵列与内存层级,生成优化的执行计划。
部署与观测
通过 Runtime 部署到目标平台,持续监测性能并调优。
评估时我们会与您确认
带着这些信息提交评估申请,VXI 团队能更快提出具体的平台与导入建议。
- 使用中的模型框架、格式与版本
- 精度容忍度与量化策略偏好
- 操作系统、主机环境与集成接口
- 团队开发流程与持续更新需求
常见问题
- 导入 VXI 需要改写模型吗?
- 多数模型可通过工具链直接转换与适配。若有特殊算子,VXI 工程团队会在评估阶段提出适配方案。
- 量化会影响模型准确度吗?
- 量化需要在效率与精度之间取得平衡。VXI 工具链提供量化验证流程,帮助您在导入前确认输出质量符合产品要求。
- Runtime 提供哪些能力?
- Runtime 负责任务调度、资源管理、多模型运行与性能观测,让应用程序以一致的接口使用 VXI 平台。
延伸阅读的技术模块
- SRAM-CIM 计算路径 — 权重驻留、近内存计算,减少数据往返
- 系统协同工程 — 连接模型、软件、主机与内存的集成路径
- 内存层级 — 权重、激活值与缓存协同配置