Meta发布下一代Andromeda广告检索系统
Meta Andromeda: Powering the Next Generation of Ads Retrieval Through Model-System Co-Design
Meta介绍下一代广告检索系统Andromeda,将LLM式MoE引入检索,并把索引匹配、打分与Top-K选择融合到单GPU流水线。官方称单卡吞吐超10亿广告/秒,较2024版提升约100倍,推理FLOPs减少约300倍;自2025年起Facebook转化率提升2.4%。
EEngineering at Meta阅读原文