在推荐系统多阶段Pipeline（召回→粗排→精排→重排）中，重排作为最终决策环节，承担着将精排输出的有限候选集（通常为Top 100–500个Item）转化为最优序列的关键职责。数学定义为在给定候选集

 ，重排的目标是寻找一个排列 

在推荐系统、搜索排序等AI领域，Pointwise 建模是精排阶段的核心方法，即对每个 Item 独立打分后排序，pointwise 建模范式面临挑战：

二、重排架构演进：生成式模型实践

我们的重排系统采用G-E两阶段协同框架：

不考虑算力和耗时的情况下，通过穷举所有排列

生成阶段主要依赖启发式规则、随机扰动 + beamSearch算法生成候选list，双阶段范式存在显著的痛点：

    1. 增加beam width，系统耗时增加，DCG@K提升逐渐减少。

    2. 增加通道数，通道间重叠度逐渐增加，去重list增加逐渐减少。

    1. 分布偏移：启发式生成Beam Search输出的Top排列中，20%被评估模型否定，生成阶段搜索效率浪费。

   2. 梯度断层：Beam Search含argmax操作，双阶段无法端到端优化；生成模型无法感知评估反馈，优化方向偏离全局最优。

生成分为启发式方法和生成式模型方法, 一般认为生成式模型方法要好于启发式方法。生成式模型逐渐成为重排主流范式，主要分为两类：自回归生成模型、非自回归生成模型。

    a. 序列依赖建模强，天然捕获物品间的顺序依赖。

    b. 训练简单稳定，每步使用真实前序作为输入，收敛快。

    c. 生成质量高，逐步细化决策，适合长序列精细优化。

    a. 推理延迟高，生成 L 个物品需 L 次前向传播，线上服务难以满足毫秒级要求。

    b. 局部最优风险，早期错误决策无法回溯修正，影响整体序列质量。

   a. 推理速度极快：生成整个序列仅需1次前向传播。

   b.条件独立性假设过强：各位置并行预测，难以显式建模物品间复杂依赖关系。 

为了对齐双阶段一致性，同时考虑线上性能，我们推进了非自回归模型的上线。模型结构如下图：

模型包括Candidates Encoder和Position Encoder，Candidates Encoder是标准的Transformer结构, 用于获取item间的交互信息；Position Encoder额外增加了Cross Attention，期望Position序列同时关注Candidate序列。

由于条件独立性假设, 非自回归模型对上下文信息建模是不够的，近期我们重点推进了自回归模型的开发。

模型通过Transformer架构建模list整体收益，我们使用单向transformer模拟用户浏览行为的因果性，同时解决自回归生成的暴露偏差问题，保持训练和推理的一致性。结构如下：

线上模型推理效率优化及实验效果：

自回归生成模型推理延迟高，生成 L 个物品需 L 次前向传播，线上服务难以满足毫秒级要求。因此，我们在传统自回归生成模型的基础上增加MTP（multi token prediction）结构，突破生成式重排模型推理瓶颈。其核心思想是将传统自回归的单步预测扩展为单步多token联合预测，显著减少生成迭代次数。

自回归生成模型在社区推荐已完成了推全，实验中我们新增了自回归生成模型通道，但不是完全体，仅部分位置生成调用了模型：

三、推理性能优化：端到端生成的效率保障

为解决CPU推理模型延迟高、制约业务效果的问题，我们对DScatter模型服务进行升级，引入高性能GPU推理能力，具体方案如下：

   1. 框架升级：将现有依赖的推理框架升级为支持GPU的高性能服务框架。

   2. 硬件资源引入：引入 NVIDIA L20 等专业推理显卡，为当前的listwise评估模型及自回归生成模型提供专用算力，实现模型推理的硬件加速。

   1. 为解决模型部署效率低与资源竞争问题，将DScatter的模型打分逻辑从现有重排服务中完全解耦，构建并部署独立的 DScatter-Model-Server 集群，从根本上消除与重排服务在CPU、内存等关键资源上的竞争。

   导出为 ONNX 格式，使用 TensorRT 进行量化、层融合、动态张量显存等技术加速推理。

   预计算item静态网络，线上直接查询节省计算量。

   缓存已生成token的KV和attention值，仅计算增量token相关值，避免重复计算。

四、未来规划：迈向端到端序列生成的下一代重排架构

当前“生成-评估”双阶段范式虽在工程落地性上取得平衡，但其本质仍是局部优化：生成阶段依赖启发式规则或浅层模型生成候选，评估阶段虽能识别优质序列，却无法反向指导生成过程，导致系统能力存在理论上限。为突破这一瓶颈，我们规划构建端到端序列生成（End-to-End Sequence Generation） 架构，将重排从“候选筛选”升级为“序列创造”，直接以全局业务目标（如用户停留时长、互动深度、内容生态健康度）为优化目标。

   1. 粗粒度并行生成：首层预测序列骨架（如类目分布、内容密度）等。

   2. 细粒度自回归精调：在骨架约束下，自回归生成具体 item，确保局部最优。

   1. 构建多目标 reward 函数：xtr、多样性。

   2. Engagement：基于用户滑动轨迹建模序列累积收益（如滑动深度加权CTR）。

   3. Diversity：跨类目/创作者/内容形式的分布熵。

   4.Fairness：冷启内容、长尾创作者曝光保障。

训练范式升级：强化学习与对比学习融合

推进自回归生成模型的架构升级与训练体系重构，引入强化学习微调（PPO/DPO）与对比学习机制，提升序列整体效率。

   1.基于 DCG 的列表质量打分：

   a. 对每个曝光列表L，计算其 DCG@K作为质量分数：

        其中 gain(item)可定义为：

            若互动（点赞/收藏）：+1.5

   a.对同一用户在同一上下文下的两个列表 

   b.若 （δ 为 margin，如 0.1），则构成一个有效偏好对。

在推荐系统多阶段Pipeline（召回→粗排→精排→重排）中，重排作为最终决策环节，承担着将精排输出的有限候选集（通常为Top 100–500个Item）转化为最优序列的关键职责。数学定义为在给定候选集与目标列表长度 ，重排的目标是寻找一个排列 ，使得全局收益函数最大化。

社区推荐重排技术：双阶段框架的实践与演进

推荐系统重排作为最终决策环节，可解决传统排序的同质化、位置偏差等问题。本文分享生成式重排模型的实践经验，包括自回归与非自回归两种模型的落地效果，介绍推理性能优化方案，并展望端到端序列生成的下一代重排架构，助力提升推荐体验与业务收益。

技术运营

人工智能

后端

算法

推荐系统重排技术演进：从双阶段架构到端到端生成模型。分析传统pointwise建模范式痛点，详解生成式重排模型实践，包括自回归与非自回归模型对比，以及推理性能优化方案。重点介绍得物技术团队在重排系统优化中的创新实践，通过多目标建模和序列级优化实现CTR提升1.0%、时长增长1.13%的显著效果。

强化学习

4核4G3M云服务器 新用户低至38元/年！

2026新春采购季

llmsgw

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云AI代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

功能1上新10个字符

功能2描述100个字符功能2描述100个字符功能2描述100个字符功能2描述100个字符功能2描述100个字符功能2描述100个字符功能2描述100个字符功能2描述100个字符功能2描述100个字符。

功能2上新100个字符功能2上新100个字符功能2上新100个字符功能2上新100个字符功能2上新100个字符功能2上新100个字符功能2上新100个字符功能2上新100个字符功能2上新100个字符。

功能5描述100个字符功能5描述100个字符功能5描述100个字符功能5描述100个字符功能5描述100个字符功能5描述100个字符

功能5上新100个字符功能5上新100个字符功能5上新100个字符功能5上新100个字符功能5上新100个字符功能5上新100个字符功能5上新100个字符功能5上新100个字符功能5上新100个字符功能5上新100个字符

功能4上新

文章&问答评论现已支持表情

全新交互，全新视觉，新增快捷键、悬浮工具栏、高亮块等功能并同时优化现有功能，全面提升创作效率和体验

社区富文本编辑器全新改版！诚邀体验～ 

精选全网热门MCP server，让你的AI更好用 🚀

💥开发者 MCP广场重磅上线！

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区推荐重排技术：双阶段框架的实践与演进

社区推荐重排技术：双阶段框架的实践与演进

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐