跳至主要内容

一套工具链,
从模型到部署。

面向 D100 的配套软件,连接 PyTorch / ONNX 模型与 C++ 内核,完成编译、验证和部署升级。

统一编译路径
输入模型与 C++ 内核
处理
  • 格式识别
  • 依赖整理
产出模型计算图

核对模型输入输出与自定义算子依赖。

输入模型计算图
处理
  • 量化 / 融合
  • 布局 / 预取
产出优化后的图

量化由软件定义,不依赖私有格式;转换后校验精度。

输入优化后的图
处理
  • 矩阵 / 向量 / 标量
  • 执行与访存安排
产出统一指令流

同时生成可读 C++,在同一调试域定位问题。

输入编译结果
处理
  • 执行仿真
  • 访存分析
产出剖析报告

在相同模型、精度与目标配置下,观察周期、带宽与 MAC 利用率。

输入已验证的模型与算子
处理
  • 版本打包
  • 部署交付
产出单一二进制

后续通过 OTA 追加算子,持续更新软件能力。

新算子如何部署

适用于新 Norm、自定义注意力和世界模型算子。

新算子
Norm注意力世界模型
  1. 01

    C++ 内核

    软件定义计算逻辑

  2. 02

    统一编译

    接入同一指令流与调试域

  3. 03

    OTA 追加

    更新已部署的软件内容

兼容 SIMT / GPGPU API 的适配方向,用于降低迁移成本;不等同于原生 CUDA。

算子适配,
每次修改都有验证。

针对图优化、自定义算子和精度回归,明确调整对象与检查结果。

图优化:协调计算与访存

通过融合复用中间张量,以布局和预取优化数据访问。

调整对象
量化、算子融合、张量 Layout 与权重 Prefetch。
观察证据
周期、带宽与 MAC 利用率;在一致的模型和配置下比较。

自定义算子:明确接口与依赖

定义张量形状、精度与依赖,以 C++ 内核接回计算图。

调整对象
自定义算子内核,以及它与模型计算图连接的边界。
观察证据
算子输出与整图精度,再检查执行周期和访存特征。

精度回归:对照参考输出

使用一致的输入比较参考输出和编译后输出,记录误差并决定后续调优。

调整对象
精度配置、算子实现与图内优化组合。
保留证据
模型版本、输入样本、配置与差异记录;硅后仍需复核。

从计算图到执行安排

对应上方三种适配情形,观察算子连接与读取、计算、写回的安排。

可重排的计算图

输入分成矩阵与归一化路径,经融合或自定义内核进入输出的静态示意 输入 矩阵运算 归一化 输出 融合与调度

方向键调整视角,Home 复位。

执行安排 数据与计算交错组织

读取、计算和写回三个逻辑序列的安排 读取 计算 写回
标准图优化

观察算子如何分组,以及读取、计算与写回怎样被组织。

模型验证与交付

400+

模型与工具链
兼容性验证记录

公司模型验证记录,芯片精度与吞吐待硅后复核。

  1. 01

    模型导入

    确定模型与适配入口

  2. 02

    精度校验

    对比转换前后的模型输出

  3. 03

    性能剖析

    检查周期、带宽与 MAC 利用率

  4. 04

    参考模型

    交付可复用的模型配置

  5. 05

    OTA 更新

    支持模型分片与增量更新

覆盖九类工作负载

  • 大语言模型

    LLM

    Qwen / DeepSeek 等

  • 视觉语言动作

    VLA
  • 语音与音频

    Audio

    语音与信号处理

  • 车载感知

    Driving
  • 交互与策略

    DOOM
  • 目标检测

    Detection

    识别目标位置与类别

  • 图像分割

    Segmentation
  • 姿态估计

    Pose
  • 图像分类

    Classification

D100 配套软件

配套软件随 D100 芯片交付,不单独收费。

提交模型适配需求

软件与集成参考

  • 编译器与 SDK

    支持模型导入、编译与部署。

  • 模型库与参考算法

    提供可复用的模型和算法,支持适配。

  • 参考模组与设计

    为 OEM 与方案商提供整机集成参考。

查看整机集成分工