京东广告联合鲲鹏超节点，推理时延降15%

京东广告联合华为鲲鹏超节点完成软硬件方案落地，将生成式广告推理的端到端时延降低15%。目前核心业务场景5%的流量已在鲲鹏集群运行，并通过“618”大促验证，但并非全量搜广推业务都已迁移；京东广告称正推进“双十一”，计划将更大规模业务搬上鲲鹏。 方案基于灵衢（UnifiedBus）实现4K节点ScaleUp组网、单超节点150万+vCPU，并以两级KV Cache构建300TB共享内存池，缓存间时延下降3个量级。京东广告称，省下的时延预算将用于运行更大模型，双方下一步聚焦Agentic AI与Agent高密沙箱。

AI 根据报道生成 · 25 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。