Meta Andromeda：通过模型-系统协同设计驱动下一代广告检索

Meta 介绍下一代个性化广告检索引擎 Meta Andromeda，通过模型、系统与 GPU 硬件协同设计，在单张 GH200 GPU 上实现每秒超 100 亿广告的推理吞吐，较 2024 年系统提升 100 倍。新架构引入检索混合专家（MoE），以约 300 倍更少的推理 FLOPs 接近排序级模型性能。自 2025 年以来，该系统在 Facebook 上带来 2.4% 的转化提升。