初步匹配 · 产品规划
D300 主流方案
采用 3D MEM 与 GDDR7,面向工作站。
目标模型规模300B
内存配置128–512 GB
OEM 终端目标价2 万–5 万元
4-bit 纯权重下限:150 GB另需为 KV Cache、量化元数据及运行时预留空间。
实际配置以模型和系统验证为准
按模型规模与存储需求分档,价格为 OEM 终端目标价。
GPNPU PE 簇与 3D MEM 采用近存布局,面向本地 MoE 推理。
选择模型、设备形态与预算,获得初步方案;实际配置需结合运行空间与验证结果确定。
采用 3D MEM 与 GDDR7,面向工作站。
配置初选后,逐项确认运行空间、输出速度、模型适配和整机条件。
在模型权重之外,为 KV Cache、量化元数据和运行时预留空间;同时确认上下文长度与并发需求。
提供模型版本、上下文长度、设备形态与目标预算。