iCreatAI News
跳到正文
MarkTechPost· Asif Razzaq·· 4 天前AI 评分58

Polymathic AI 与普林斯顿等机构发布 FlashMap,LLM 解码最高提速 6.14 倍

Polymathic AI and Princeton Researchers Release FlashMap, a Flow Map Drafter for 6.14x Faster LLM Decoding

AI 导读

Polymathic AI、普林斯顿大学、USC ISI、NYU 和 Flatiron Institute 的研究者发布 FlashMap,用连续流映射替代离散扩散草稿器,一次前向传播草拟 16 个 token 的整块内容。

来源:MarkTechPost · marktechpost.com