首款芯片 D100 · 在研

D100,
权重靠近计算。

以四组 3D MEM 连接 GPNPU PE 簇,配合分层存储与主机接口,组织端侧推理的数据路径。

查看统一执行

D100 芯片架构

PE 簇、近存与外部接口的规划分工

4 组近存,放在 PE 簇之间。

中央 2×2 的 3D MEM 与周围 GPNPU PE 簇协同,让高频访问的权重靠近计算。

D100 首款在研芯片4 组 中央近存规划GPNPU 统一计算架构

计算、存储与软件协同

D100 芯片计算与近存视图
GPNPU 层级结构
01 / 04

统一执行三类计算

矩阵、向量与标量共享指令流和编程模型,在 PE 内完成计算与数据复用。

矩阵 MAC向量单元标量 ALU

一条指令流,
协同三类计算。

矩阵 MAC、向量单元与标量 ALU 共用指令流,通过本地 LRM 接续处理同一份数据。

统一指令流
  1. 取指
  2. 译码
  3. 发射
PE 本地 LRM中间张量就地复用

矩阵乘加,
结果就地复用。

矩阵 MAC 完成密集乘加,中间结果优先保留在 PE 本地 LRM,供后续向量或标量运算使用。

矩阵 MAC + 本地 LRM
  1. PE / LRM计算现场
    中间张量与局部复用
  2. L2 驻留层片上共享
    承接更大范围的数据复用
  3. 近存带宽层3D MEM
    承接高频权重访问
  4. 外部容量层D100 规划采用 LPDDR6
    承接模型容量需求

PE 内的数据流转

数据读入本地 LRM,完成乘加与接续运算,再传递给后续算子。

读入所需数据

共享或近存层把当前运算需要的工作数据送往 PE 本地 LRM。

逻辑 die 与存储制程解耦,按容量、带宽与成本组织存储。

GPNPU 如何扩展算力

从单 die 到同构多核,再到多 die Chiplet。编译器负责跨核切分与同步,软件沿用统一编程模型。

单 die
1T 至 800T 目标通过配置 PE 数量,适配不同算力需求。
2 至 8 核同构簇
L2 互访同一解码步骤内,多核共享权重读取。
多 die Chiplet
6400T 规划目标面向旗舰与后续形态。

以上为通用 GPNPU 架构规划。D100 规划采用标准 BGA 基板与 UCIe3 互联。

近存架构的容量与带宽测算

容量按完整模型计算,带宽按每步激活参数计算。以下示例用于解释测算方法,产品适配范围见 D 系列规划。

模型:250B MoE,2/8 激活;目标输出:100 token/s。

选择权重精度

权重容量

完整的 250B 权重都需要空间

2/8 参与当前计算8/8 计入权重容量

125GB

完整模型的纯权重容量

250B 参数 ×0.5 Byte/ 参数

读取带宽

每一步读取 62.5B 激活参数

NVFP4,每参数 0.5 Byte

3.125TB/s

理论权重读取带宽需求

62.5B ×0.5 Byte× 100 token/s

测算假设:每步读取一次激活权重;KV Cache、激活与运行时开销另计。

精度配置:此处切换权重精度;激活精度需独立配置。

模型怎么拆,
决定数据怎么走。

按区域、输入批次、网络层或独立任务分配计算,分别评估访存与调度开销。

空间并行:按区域拆分

各单元处理一部分空间区域,再组织边界信息与结果。适合从大分辨率输入中寻找可并行的工作。

分什么
图像或特征图的空间区域
交换什么
相邻区域需要的边界数据
关注什么
区域重叠、访存与结果合并

按模型规模比较芯片

查看芯片规划