推荐算法论文：DIN网络

Posted 2022-05-18 我家大宝最可爱

简介

1. 将用户各个维度的稀疏特征压缩成embedding向量，然后将这些向量拼接在一起作为用户向量，这会导致无论输入什么样的广告，用户向量都不变，就很难捕捉到用户在各个广告上的偏好。DSSM模型的时候，用户向量不就是固定的吗，然后输入不同ad的时候，去计算相似度，deepmatch也是的，为什么说不能很好补货用户偏好呢，而且我们可以获取用户的实时行为，每时每刻用户的embedding应该是不一样的吧，还是说这样不一致会导致模型不收敛，所以才要求用户向量必须是稳定的？？？

介绍

1. 用户的历史行为被压缩到同一个向量中，这就会导致用户的多种兴趣也被压缩到一起，这就限制了MLP的表达能力，如果增加了embedding的维度，使得参数增加，有可能会导致过拟合，还会增加线上的压力。个人觉得，当用户所有兴趣被压缩到一起的时候，学习到的是不是相当于是平均爱好，这在youtobe论文中有说到

2. 影响用户点击的可能只与部分历史信息有关，所以无需将用户所有的历史压缩到一起。例如，一个女生点了裙子，可能只是跟他历史点击过鞋子有关，而不是点击过的手机有关。DIN通过局部激活单元的方式，软性搜索与推荐广告相关的历史信息，之后再通过加权池化来表示用户向量。这个想法有点奇怪，之前是将用户所有信息进行平均池化，现在是通过局部激活的方式来加权池化，得到的用户向量再与商品向量进行交互。相当于用户点击的时候，判断哪些信息影响了这次点击，哪些历史影响的小。