技术模块
SRAM-CIM 计算路径
AI 推理的效率瓶颈,往往不在计算本身,而在数据被反复搬移。VXI 以 SRAM-CIM(存内计算)为核心,让权重留在计算发生的地方,把能源与带宽留给真正有价值的工作。
架构设计 · 数据流 · 能效
核心价值
以权重驻留与近内存计算为架构方向,减少不必要的数据往返。
以数据为中心的计算
权重驻留于计算阵列附近,大幅减少往返外部内存的搬移,让推理路径更短、更稳定。
为推理工作负载而生
针对矩阵乘加与注意力等主流 AI 运算形态规划数据流,让模型特性直接对应到硬件路径。
能效与体验兼得
数据搬移减少,意味着更低的系统功耗压力与更一致的响应体验,适合长时间运行的边缘产品。
运作方式
模型分析
解析模型结构与计算热点,找出最适合驻留于计算阵列的权重与网络层。
权重映射
按内存容量与数据流需求,将权重配置到 SRAM-CIM 计算阵列。
阵列内计算
在数据所在位置完成乘加运算,只传递必要的中间结果。
结果汇总
由数据互连与 Runtime 协同汇总输出,衔接后续计算与应用。
评估时我们会与您确认
带着这些信息提交评估申请,VXI 团队能更快提出具体的平台与导入建议。
- 目标模型架构、精度需求与主要运算形态
- 延迟、吞吐与功耗之间的产品优先级
- 权重规模与可驻留比例的预估
- 与主机处理器、外部内存的分工方式
常见问题
- 什么是 SRAM-CIM?
- SRAM-CIM(SRAM Compute-in-Memory)是在存储阵列内部或旁边直接完成计算的架构方向。数据不必在内存与计算单元之间频繁往返,是提升 AI 推理效率的重要路径。
- SRAM-CIM 适合哪些 AI 应用?
- 以矩阵运算为主的推理工作负载最能受益,例如语言模型、视觉识别与多模态应用。VXI 会根据您的模型与产品条件,规划最合适的平台与数据配置。
- 现有模型需要重新训练吗?
- 多数情况下不需要重新训练。VXI 工具链会协助模型转换与量化适配,并在评估阶段与您确认精度与性能目标。
延伸阅读的技术模块
- 内存层级 — 权重、激活值与缓存协同配置
- 片上数据互连 — 按工作负载调度数据路径与模块通信
- 编译与 Runtime — 模型转换、量化、调度到运行时控制