MarkTechPost· Asif Razzaq·· 4 天前AI 评分58
Polymathic AI 与普林斯顿等机构发布 FlashMap,LLM 解码最高提速 6.14 倍
Polymathic AI and Princeton Researchers Release FlashMap, a Flow Map Drafter for 6.14x Faster LLM Decoding
AI 导读
Polymathic AI、普林斯顿大学、USC ISI、NYU 和 Flatiron Institute 的研究者发布 FlashMap,用连续流映射替代离散扩散草稿器,一次前向传播草拟 16 个 token 的整块内容。
来源:MarkTechPost · marktechpost.com