输入模型与 C++ 内核
处理
- 格式识别
- 依赖整理
产出模型计算图
核对模型输入输出与自定义算子依赖。
面向 D100 的配套软件,连接 PyTorch / ONNX 模型与 C++ 内核,完成编译、验证和部署升级。
核对模型输入输出与自定义算子依赖。
量化由软件定义,不依赖私有格式;转换后校验精度。
同时生成可读 C++,在同一调试域定位问题。
在相同模型、精度与目标配置下,观察周期、带宽与 MAC 利用率。
后续通过 OTA 追加算子,持续更新软件能力。
适用于新 Norm、自定义注意力和世界模型算子。
软件定义计算逻辑
接入同一指令流与调试域
更新已部署的软件内容
兼容 SIMT / GPGPU API 的适配方向,用于降低迁移成本;不等同于原生 CUDA。
针对图优化、自定义算子和精度回归,明确调整对象与检查结果。
通过融合复用中间张量,以布局和预取优化数据访问。
定义张量形状、精度与依赖,以 C++ 内核接回计算图。
使用一致的输入比较参考输出和编译后输出,记录误差并决定后续调优。
对应上方三种适配情形,观察算子连接与读取、计算、写回的安排。
方向键调整视角,Home 复位。
观察算子如何分组,以及读取、计算与写回怎样被组织。
模型与工具链
兼容性验证记录
公司模型验证记录,芯片精度与吞吐待硅后复核。
确定模型与适配入口
对比转换前后的模型输出
检查周期、带宽与 MAC 利用率
交付可复用的模型配置
支持模型分片与增量更新
Qwen / DeepSeek 等
语音与信号处理
识别目标位置与类别