论文笔记-WWWCompanion2024-LLM as Data Augmenters for Cold-Start Item Recommendation

大语言模型作为冷启动项目推荐的数据增强器

论文: Large Language Models as Data Augmenters for Cold-Start Item Recommendation
代码: 无

摘要

传统推荐系统在没有历史交互的情况下难以推荐冷启动项目。为了解决这一问题，本文提出利用 LLM 作为数据增强工具，以弥补训练期间对冷启动项目的知识差距。

首先，使用 LLM 根据用户历史行为的文本描述和新商品描述推断用户对冷启动项目的偏好。然后，通过辅助的成对损失将增强的训练信号纳入下游推荐模型的学习中。在公共 Amazon 数据集上的实验证明了 LLM 能有效增强冷启动项目的训练信号，从而显著改善各种推荐模型对冷启动项目的推荐效果。

1.引言

基于 ID 的嵌入方法在推荐新内容和冷门内容时面临重大挑战，因为这些内容缺乏模型学习准确嵌入所需的交互数据，这就是冷启动问题。为了解决这一长期存在的问题，基于内容的推荐系统利用商品的元特征来辅助商品表示学习，即通过元特征的转换或其组合来替代基于 ID 的商品嵌入。利用 LLM 进行推荐需要对大型预训练模态编码器进行微调以适应推荐任务，这需要巨大的工作量。此外，针对每个用户请求提供 LLMs 或大型基础模型的延迟，通常超过推荐平台所期望的响应时间。

为了将 LLM 的能力转移到解决长期存在的推荐冷启动问题上，本文并不在服务阶段直接使用 LLM，而是探索 LLM 在训练阶段填补数据空白的潜力。通过这种与模型无关的方法，可以避免 LLM 推理的慢速 API 调用，并解决冷启动项目的数据稀疏问题。此外，增强过程作为数据预处理步骤，可以集成到任何工业规模的推荐系统中，为利用 LLM 的泛化能力提供了一种可扩展的方法。

本研究的主要贡献包括：

• 提出了成对比较的提示方法，利用 LLM 基于用户的历史交互推断用户在商品对之间的偏好。

• 将 LLM 生成的合成用户偏好与成对损失结合，作为常规推荐任务的补充。

• 在两个真实世界的数据集上进行了实验，结果表明合成用户偏好可以显著提升冷启动项目的性能。

2.前言

设 U = { u 1 , u 2 , … , u G } U = \{ u_1, u_2, \ldots, u_G \} U={ u1​,u2​,…,uG​} 为用户集，$I_{}$