Meta Engineering·· 4 天前AI 评分36
Meta Andromeda：通过模型-系统协同设计驱动下一代广告检索
Meta Andromeda: Powering the Next Generation of Ads Retrieval Through Model-System Co-Design
AI 导读
Meta 发布下一代个性化广告检索系统 Meta Andromeda，单张 GH200 GPU 推理吞吐超过每秒 100 亿条广告，相比 2024 版提升 100 倍。新架构将 LLM 式 MoE 引入检索阶段，推理 FLOPs 比 2024 版检索模型少约 300 倍，性能接近排序阶段水平。自 2025 年以来，该系统已在 Facebook 带来 2.4% 的转化率提升。
来源：Meta Engineering · engineering.fb.com