技术模块

SRAM-CIM 计算路径

AI 推理的效率瓶颈,往往不在计算本身,而在数据被反复搬移。VXI 以 SRAM-CIM(存内计算)为核心,让权重留在计算发生的地方,把能源与带宽留给真正有价值的工作。

架构设计 · 数据流 · 能效

核心价值

以权重驻留与近内存计算为架构方向,减少不必要的数据往返。

  • 以数据为中心的计算

    权重驻留于计算阵列附近,大幅减少往返外部内存的搬移,让推理路径更短、更稳定。

  • 为推理工作负载而生

    针对矩阵乘加与注意力等主流 AI 运算形态规划数据流,让模型特性直接对应到硬件路径。

  • 能效与体验兼得

    数据搬移减少,意味着更低的系统功耗压力与更一致的响应体验,适合长时间运行的边缘产品。

运作方式

  1. 模型分析

    解析模型结构与计算热点,找出最适合驻留于计算阵列的权重与网络层。

  2. 权重映射

    按内存容量与数据流需求,将权重配置到 SRAM-CIM 计算阵列。

  3. 阵列内计算

    在数据所在位置完成乘加运算,只传递必要的中间结果。

  4. 结果汇总

    由数据互连与 Runtime 协同汇总输出,衔接后续计算与应用。

评估时我们会与您确认

带着这些信息提交评估申请,VXI 团队能更快提出具体的平台与导入建议。

  • 目标模型架构、精度需求与主要运算形态
  • 延迟、吞吐与功耗之间的产品优先级
  • 权重规模与可驻留比例的预估
  • 与主机处理器、外部内存的分工方式

常见问题

什么是 SRAM-CIM?
SRAM-CIM(SRAM Compute-in-Memory)是在存储阵列内部或旁边直接完成计算的架构方向。数据不必在内存与计算单元之间频繁往返,是提升 AI 推理效率的重要路径。
SRAM-CIM 适合哪些 AI 应用?
以矩阵运算为主的推理工作负载最能受益,例如语言模型、视觉识别与多模态应用。VXI 会根据您的模型与产品条件,规划最合适的平台与数据配置。
现有模型需要重新训练吗?
多数情况下不需要重新训练。VXI 工具链会协助模型转换与量化适配,并在评估阶段与您确认精度与性能目标。

延伸阅读的技术模块

探索 Gen1 产品平台 · 评估时我们会与您确认

本页也提供: zh-TW · en · ja