推荐算法：重排

1.物品的相似性度量、提升多样性的方法

物品相似性度量

基于属性、基于物品向量

基于图文的（CNN+BERT）

CLIP 最有效的预训练方法

n对图片+文字，组成n(n-1)对负样本

提升多样性的方法

精排：给定n个候选物品，模型打分reward1，…rewardn

从n个中选k个

2.Maximal Marginal Relevance（MMR）[两两相似度]

精排给定n个候选物品，模型打分reward1，…rewardn

相似性sim(i,j)

选中集合S，未选中集合R

计算集合中每个物品i的Marginal Relevance分数：
$$M{R}_i=\theta \cdot rewar{d}_i-(1-\theta )\cdot \underset{j\in S}{\max }sim(i,j)$$
MMR：
$$\arg \underset{i\in R}{\max }M{R}_i$$
把选中的有从R移动到S

算法流程

S为空集，R为全集

选择精排分数最高的物品，从R移到S

做k-1轮循环：

a.计算R中所有物品的分数{MRi}i∈R\{MR_i\}_{i\in R}{MRi​}i∈R​

b.选出分数最高的物品，从R移到S

滑动窗口

因为随着S增大，sim约等于1，MMR失效

设置滑动窗口W，选中最近的10个物品，用W代替S

3.业务规则下的多样性算法

重排的规则

最多连续出现k篇某种（图文、视频）笔记

每k篇笔记最多出现1篇某种笔记（运营推广笔记boost>1）

前t篇笔记最多出现k篇某种笔记

MMR+重排规则

MMR每轮选出一个物品

重排结合MMR和规则，在满足规则的前提下最大化MR

每一轮先用规则排除掉R中的部分物品，得到子集R’

4.5.DPP多样性算法[整个S相似度]

数学基础

k个向量（线性独立）决定k维超平形体

面积：底×高（根据投影计算），衡量多样性，面积/体积大→多样性
$$det(V^{\mathrm{T}}V)=vol(P(v_1,...v_k){)}^2$$

DPP解决多样性问题

精排打分reward1，…rewardn，选k个

价值大：$\sum reward$大

多样性好：$P(S)$体积大

推荐系统：$\arg \underset{S:|S|=k}{\max }\theta \cdot ({\sum }_{j\in S}rewar{d}_j)+(1-\theta )\cdot \log \det (V_S^{\mathrm{T}}{V}_S)$

求解过程

$$\arg \underset{S:|S|=k}{\max }\theta \cdot (\sum _{j\in S}rewar{d}_j)+(1-\theta )\cdot \log \det (V_S^{\mathrm{T}}{V}_S)$$

$$\arg \underset{S:|S|=k}{\max }\theta \cdot (\sum _{j\in S}rewar{d}_j)+(1-\theta )\cdot \log \det (A_S)$$

组合优化问题，从集合1…n中选中k个

贪心算法求解

arg⁡max⁡i∈Rθ⋅rewardi+(1−θ)⋅log⁡det⁡(AS∪{i}) \arg \mathop{\max}\limits_{i\in R} \theta\cdot reward_i+(1-\theta)\cdot \log \det (A_{S\cup\{i\}} ) argi∈Rmax​θ⋅rewardi​+(1−θ)⋅logdet(AS∪{i}​)

每轮选一个物品i

暴力求解

对于单个i，计算AS∪{i}A_{S\cup\{i\}}AS∪{i}​需要$O(|S{|}^3)$时间

对于所有i，计算AS∪{i}A_{S\cup\{i\}}AS∪{i}​需要$O(|S{|}^3\cdot |R|)$时间

要求k个物品，需要求解公式k次，总时间复杂度$O(|S{|}^3\cdot |R|\cdot k)=O(n{k}^4)$

总时间复杂度：$O(n^{2}d+n{k}^4)$

Hulu快速算法

Cholesky分解：$A_S=L{L}^{\mathrm{T}}$,L是下三角矩阵（对角线以上的元素全0

Cholesky分解可供计算$A_S$的行列式：$\det (L)$等于L对角线元素乘积；$\det (A_S)=\det (L{)}^2={\prod }_i{l}_{ii}^2$

添加一行或一列的Cholesky分解变化小

DPP扩展

随着S变大，相似物品越来越多，物品向量趋近线性相关，$\det (A_S)$坍缩到0，对数趋于负无穷

滑动窗口

用滑动窗口W代替S

规则约束

贪心算法每轮从R中选一个，先用规则排除一部分得到R‘，再求解选择