Meta发布Andromeda广告检索系统，单卡吞吐提升百倍

Meta 介绍了下一代个性化广告检索引擎 Meta Andromeda，称其通过模型、系统与 GPU 硬件协同设计，在单张 GH200 GPU 上实现每秒超 10 亿广告的推理吞吐，较 2024 年系统提升 100 倍。该架构引入检索混合专家（MoE），以约 300 倍更少的推理 FLOPs 接近排序级模型性能。 Meta 称，自 2025 年以来，该系统在 Facebook 上带来 2.4% 的转化提升。Meta 与 NVIDIA 于 2026 年初启动合作，逐项优化检索管线以逼近硬件极限；Meta 表示，全部优化应用后，完整管线在单台 GPU 服务器上的基准吞吐达到当前生产吞吐的数倍，更多优化上线后预计还有提升。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。