Meta发布下一代广告检索系统Andromeda
热点事件历史事件
Meta发布下一代广告检索系统Andromeda
1篇报道1个报道来源4 天前更新
先了解这件事
AI 综述
Meta发布下一代个性化广告检索系统Andromeda，称其单张GH200 GPU推理吞吐超过每秒100亿条广告，较2024版提升100倍。新架构把LLM式MoE引入检索阶段，推理FLOPs比2024版检索模型少约300倍，性能接近排序阶段水平。 Meta称，该系统在生产中对每条符合条件的广告以接近排序阶段的模型性能打分，并在相同延迟预算内从更大候选池中匹配广告；自2025年以来已在Facebook带来2.4%的转化率提升。Meta还称，应用全部优化后，完整流水线在单台GPU服务器上的基准吞吐为当前生产吞吐的数倍。
AI 根据报道生成 · 3 天前更新
最新进展10月29日 00:00
Meta Andromeda：通过模型-系统协同设计驱动下一代广告检索报道时间线
沿着报道，了解事件的不同侧面。
10月29日
- Meta EngineeringMeta Andromeda：通过模型-系统协同设计驱动下一代广告检索
Meta 发布下一代个性化广告检索系统 Meta Andromeda，单张 GH200 GPU 推理吞吐超过每秒 100 亿条广告，相比 2024 版提升 100 倍。新架构将 LLM 式 MoE 引入检索阶段，推理 FLOPs 比 2024 版检索模型少约 300 倍，性能接近排序阶段水平。自 2025 年以来，该系统已在 Facebook 带来 2.4% 的转化率提升。