1、参数个性化 CTR 模型 - PPNet

　　2019 年之前，快手 App 主要以双列的瀑布流玩法为主，用户同视频的交互与点击，观看双阶段来区分。在这种形式下， CTR 预估模型变得尤为关键，因为它将直接决定用户是否愿意点击展示给他们的视频。彼时业界主流的推荐模型还是以 DNN、DeepFM 等简单的全连接深度学习模型为主。但考虑到某用户个体和视频的共建语义模式在全局用户的共建语义模式基础上会有个性化的偏差，如何在 DNN 网络参数上为不同用户学习一个独有的个性化偏差成为了快手推荐团队优化的方向。在语音识别领域中，2014 年和 2016 年提出的 LHUC 算法（learning hidden unit contributions）核心思想是做说话人自适应（speaker adaptation），其中一个关键突破是在 DNN 网络中，为每个说话人学习一个特定的隐式单位贡献（hidden unit contributions），来提升不同说话人的语音识别效果。借鉴 LHUC 的思想，快手推荐团队在精排模型上展开了尝试。经过多次迭代优化，推荐团队设计出一种 gating 机制，可以增加 DNN 网络参数个性化并能够让模型快速收敛。快手把这种模型叫做 PPNet（Parameter Personalized Net）。据快手介绍，PPNet 于 2019 年全量上线后，显著的提升了模型的 CTR 目标预估能力。

　　如上图所示，PPNet 的左侧是目前常见的 DNN 网络结构，由稀疏特征（sparse features）、嵌入层（embedding layer）、多神经网络层（neural layer）组成。右侧是 PPNet 特有的模块，包括 Gate NN 和只给 Gate NN 作为输入的 id 特征。其中 uid，pid，aid 分别表示 user id，photo id，author id。左侧的所有特征的 embedding 会同这 3 个 id 特征的 embedding 拼接到一起作为所有 Gate NN 的输入。需要注意的是，左侧所有特征的 embedding 并不接受 Gate NN 的反传梯度，这样操作的目的是减少 Gate NN 对现有特征 embedding 收敛产生的影响。Gate NN 的数量同左侧神经网络的层数一致，其输出同每一层神经网络的输入做 element-wise product 来做用户的个性化偏置。Gate NN 是一个 2 层神经网络，其中第二层网络的激活函数是 2 * sigmoid，目的是约束其输出的每一项在 [0, 2] 范围内，并且默认值为 1。当 Gate NN 输出是默认值时，PPNet 同左侧部分网络是等价的。经实验对比，通过 Gate NN 为神经网络层输入增加个性化偏置项，可以显著提升模型的目标预估能力。PPNet 通过 Gate NN 来支持 DNN 网络参数的个性化能力，来提升目标的预估能力，理论上来讲，可以用到所有基于 DNN 模型的预估场景，如个性化推荐，广告，基于 DNN 的强化学习场景等。

2、多目标方向-基于 MMoE 的多任务学习框架

　　快手兼容双列点选和单列上下滑的版本，旨在为用户提供更好的消费体验，加入更多元的消费方式。在新的界面下，有相当一部分用户会既使用双列也使用单列。用户在这两种页面上的消费方式和交互形式都有很大的不同，因此在数据层面表示出来的分布也非常不同。如何将两部分数据都用在模型建模里，而且用好，成为了快手推荐团队一个亟待解决的问题。

　　快手团队发现，当单列业务的场景增多后，多任务学习更加重要。因为在单列场景下，用户的交互行为都是基于show给用户的视频发生，并没有像双列交互那样有非常重要的点击行为。这些交互行为相对平等，而且这些行为数量多达几十个（时长相关预估目标、喜欢、关注、转发等）。

　　随着单列业务数据量越来越大，从模型层面，推荐团队尝试拆离出针对单列业务单独优化的模型。

• 具体表现在特征层面，可以完全复用双列模型特征，只是针对单列的目标，额外添加个性化偏置特征和部分统计值特征。
• 在Embedding层面，因为前期单列数据量少，不能保证embedding收敛，最初使用双列数据click行为主导训练，后面改用单双列用户视频观看行为（有效播放、长播放、短播放）主导训练embedding。
• 在网络结构层面，主要基于shared-bottom网络结构训练，不相关目标独占一个tower，相关目标共享同一tower顶层输出，这能在一定程度上提升目标预估效果。

　　这个模型上线后，起初有一定的效果，但很快暴露出了一些问题。首先，它没有考虑到单双列业务中embedding分布差异，造成了embedding学习不充分。其次，在多任务学习层面，单列场景下，用户的交互都是基于当前视频show的单阶段行为，各个目标之间互相影响，模型单个目标的提升，不一定能带来线上的整体收益。因此，如何设计一个好的多任务学习算法框架，让所有预估目标都能提升变得非常关键。这个算法框架必须考虑数据、特征、embedding、网络结构以及单列用户交互特点。经过充分的调研和实践，推荐团队决定采用MMoE模型（Multi-gate Mixture-of-Experts）来改进当前模型。具体体现在，

• 在特征层面，进行了语义统一，修正在单双列业务中语义不一致特征，添加针对用户在单列相关特征。
• 在Embedding层面，进行了空间重新映射，设计了embedding transform layer，直接学习单双列embedding映射关系，帮助单双列embedding映射到统一空间分布。
• 在特征重要性层面，设计了slot-gating layer，为不同业务做特征重要性选择。

　　通过以上3点的改动，模型将输入层的embedding表示从特征语义，embedding在不同业务分布，特征在不同业务重要性三个层面做了归一化和正则化，重新映射到统一的特征表征空间，使得MMoE网络在此空间上更好的捕捉多个任务之间后验概率分布关系。通过此项对MMoE的改进，模型所有的目标提升非常显著。

2、短期行为序列建模-Transformer模型

　　在快手的精排模型中，用户历史行为特征非常重要，对刻画用户兴趣的动态变化有很好的表征。在快手的推荐场景下，用户的行为特征非常丰富并且多变，其复杂度远远超过视频类特征或者上下文的特征，因此设计一个能够针对用户行为序列有效建模的算法很有必要。

　　目前业界上对于用户行为序列建模主要分为两种模式，一是对于用户的历史行为进行weighted sum，二是通过RNN之类的模型进行时序建模。在快手前期的双列精排模型里，用户行为序列只是简单做sum pooling作为模型输入。而在单列场景下，用户被动接收快手推荐视频，而且丢失掉封面信息后，用户需要观看视频一段时间再做反馈，因此主动视频选择权降低，更加适合推荐系统对用户的兴趣做E&E（Exploit & Explore）。

　　Transformer主要包括Encoder跟Decoder两部分，其中Encoder部分对输入语言序列进行建模，这部分跟用户行为序列建模目标是非常类似的，因此快手借鉴其中算法结构并对计算量进行了优化。

　　首先，快手推荐团队使用用户的视频播放历史作为行为序列。候选的序列有用户长播历史序列，短播历史序列，用户点击历史序列等，此类列表详尽地记录了用户观看视频id，作者id，视频时长，视频tag，视频观看时长，视频观看时间等内容，完整描述用户的观看历史。其次，对视频观看距今时间做log变换代替position embedding。在快手的推荐场景下，用户短期的观看行为跟当次预估更相关，长时间观看行为更多体现用户的多兴趣分布，使用log变换更能体现这种相关性。最后，替换multi-head self-attention为multi-head target attention，并且使用当前embedding层的输入作为query。这样设计的目的有两点，首先当前用户特征，预估视频特征和context特征比单独的用户行为序列提供更多信息。其次可以简化计算量，从O(d*n*n*h)变换为O(d*n*h + e*d)，其中d为attention的维度，n为list长度，h为head个数，e*d表征的是embedding层维度变换为attention维度所需的复杂度。改造后的Transformer网络能显著提升模型的预估能力，在离线评估上，用户观看时长类预估提升非常明显，线上用户观看时长也显著提升。

3、长期兴趣建模

　　长期以来，快手的精排模型都比较偏向于使用用户最近的行为。上面已经说到，通过采用transformer和MMoE模型，快手的精排模型对用户的短期兴趣进行了精确的建模，取得了非常大的收益。之前的模型里，采用了用户最近几十个历史行为进行建模。由于短视频行业的特点，最近几十个历史行为通常只能表示用户很短一段时间内的兴趣。这就造成了模型过度依赖用户的短期行为，而导致了对用户中长期兴趣建模的缺失。

　　针对快手的业务特点，快手推荐团队对于用户长期兴趣也进行了建模，使得模型能对于用户长期的历史记录都有感知能力。快手推荐团队发现，将用户的交互历史序列（播放、点赞、关注、转发等）扩长之后，模型能够更好的捕捉到一些潜在的用户兴趣，即使此类行为相对稀疏。针对该特点，推荐团队在之前的模型基础上设计并改进了用户超长期兴趣建模模块，能够对用户几个月到一年的行为进行全面的建模，用户行为序列长度能达到万级。此模型已经在全量业务推全并且取得了巨大的线上收益。

4、在线训练和预估服务

　　随着模型的迭代，深度学习网络的复杂度越来越高，模型中添加的特征数量也越来越多，模型特征规模的大小也制约了精排模型的迭代。这不仅会限制模型特征的规模，使得一部分特征被逐出，带来模型收敛的不稳定性，同时还会导致模型更容易逐出低频的特征，造成线上冷启动效果变差（新视频、新用户），对于长尾的视频或者新用户不够友好。

　　为了解决这个问题，快手推荐和架构的同学针对训练引擎和线上serving进行改进，做到离线训练和线上serving的服务根据配置的特征量灵活扩展，可以支持精排模型离线跟线上有千亿特征，万亿参数的规模。特别的，新模型对于新视频跟新用户的流量分发更加友好，在新用户和新视频的指标上有显著的提升，践行了快手推荐”普惠“的理念。目前快手的精排模型，总特征量超过1000亿，模型总的参数量超过19000亿。为了支撑推荐场景下千亿特征模型的在线训练和实时预估，推荐团队针对训练框架和线上预估服务的参数服务器(Parameter Server)进行了修改。在推荐模型的在线学习中，存储Embedding的参数服务器需要能够精准的控制内存的使用，提升训练和预估的效率。为了解决这一问题，推荐团队提出了无冲突且内存高效的全局共享嵌入表（Global Shared Embedding Table, GSET）的参数服务器设计。

　　每个 ID 单独映射一个Embedding向量很快就会占满机器的内存资源，为了确保系统可以长期执行，GSET 使用定制的 feature score 淘汰策略以控制内存占用量可以始终低于预设阈值。传统的缓存淘汰策略如 LFU、LRU 只考虑了实体出现的频率信息，主要用以最大化缓存的命中率。feature score 策略考虑了机器学习场景下额外的信息来辅助进行特征淘汰。 在推荐系统的在线学习过程中，会有大量低频 ID 进入系统，这些低频 ID 通常在未来的预估中根本不会出现，系统接收了这些特征后可能很快又会再次淘汰他们。为了防止低频 ID 无意义的进入和逐出对系统性能产生影响，GSET 中支持一些特征准入策略来过滤低频特征。同时为了提升GSET的效率和降低成本，快手还采用了新的存储器件 -- 非易失内存 (Intel AEP)。非易失内存能提供单机达到若干TB的近似内存级别访问速度。为了适配这种硬件，推荐团队实现了底层KV引擎NVMKV来支撑GSET，从而很好的确保了万亿参数模型的线上稳定性。