Prime Intellect 发布可训练 MoE 融合内核
热点事件观察中
Prime Intellect 发布可训练 MoE 融合内核
2篇报道2个报道来源3 天前更新
先了解这件事
AI 综述
Prime Intellect 发布 Prime Mega MoE，在 DeepSeek 开源的 Mega MoE kernel 基础上补上快速重叠的反向传播，使该内核可用于训练，而不只是推理。Prime Intellect 称，相比默认 PyTorch 实现，该 MoE kernel 最高快 3.11×。 该内核支持 bfloat16，以及仅在 Blackwell 上支持的 MXFP8 和仅在 Hopper 上支持的 blockwise FP8。据 MarkTechPost 报道，训练内核包含在 prime-kernels 提供的预构建 DeepGEMM wheel 中，DeepGEMM 官方构建不含这些内核；使用时需在 [trainer.model.moe.dispatch] 下设置 type = "mega_moe"。
AI 根据报道生成 · 3 天前更新
最新进展10月30日 02:28
Prime Intellect 发布 Prime Mega MoE：可训练融合 MoE kernel，前向传播快 3.11 倍报道时间线
沿着报道，了解事件的不同侧面。
10月30日
- MarkTechPostPrime Intellect 发布 Prime Mega MoE：可训练融合 MoE kernel，前向传播快 3.11 倍
Prime Intellect 发布 Prime Mega MoE，在 DeepSeek 开源 DeepGEMM 库的 Mega MoE kernel 基础上补齐了融合且重叠的反向传播，使其可用于训练而非仅推理。
10月29日
- Prime Intellect BlogPrime Intellect 推出 Prime Mega MoE：面向训练的高速融合 MoE kernel
Prime Intellect 在 DeepSeek 开源 Mega MoE kernel 基础上补上快速重叠反向传播，使其可用于训练，MoE kernel 相比默认 PyTorch 实现最高快 3.11×。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 1610月30日 03:00
- 近 24 小时变化
- -69%
05101520
12:0010月31日12:0011月1日
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。