iCreatAI News
跳到正文
10月30日周五
10月29日周四
  1. Meta Engineering36

    Meta Andromeda:通过模型-系统协同设计驱动下一代广告检索

    Meta 发布下一代个性化广告检索系统 Meta Andromeda,单张 GH200 GPU 推理吞吐超过每秒 100 亿条广告,相比 2024 版提升 100 倍。新架构将 LLM 式 MoE 引入检索阶段,推理 FLOPs 比 2024 版检索模型少约 300 倍,性能接近排序阶段水平。自 2025 年以来,该系统已在 Facebook 带来 2.4% 的转化率提升。

10月27日周二
10月22日周四
10月16日周五
10月1日周四
7月29日周三
  1. Berkeley AI Research60

    从 CUDA 到 MLX:K-Search 如何把数十年内核经验带到 Apple Silicon

    Berkeley Sky Lab 与 IBM Research 将 K-Search 内核搜索框架扩展到 MLX 后端,通过结构化的 CUDA-to-MLX 翻译层把已有 CUDA 内核作为知识库,在 Apple Silicon 上生成高质量内核。

    推荐理由:读者可以看到 CUDA 内核经验如何被结构化翻译成 MLX 优化策略,以及翻译层对性能提升的具体贡献。