有没有懂行的大佬能谈谈做推荐系统的大公司是否真的很“邪恶”？所谓邪恶就是为了自己的利益牺牲用户的体验和利益。

[shendaowu]

所谓牺牲用户体验和利益比如：
为了增加用户的使用时间不推荐对用户真正有用的。
为了增加用户的使用时间对真正的好东西藏着掖着，不一次给用户，而是细水长流。
为了增加用户的消费推荐更贵的商品，而不是有同样功能却更便宜的。

类似的东西我曾经是拍脑袋想出来的，然后在 V 站提过，然后最近看到别人也说过类似的东西。我有那么一点怀疑可能是被我带歪的。我自己瞎说我还能接受，另外我当时说的语气可能也不是很确定，但是影响到别人我就不得不在意了。所以想发帖确认一下。

我略读过两本推荐系统的书。里面有两个我感觉很在意的相关的东西。其一是任何一个能带来利益的算法系统都会被人攻击。推荐系统也一样，可以通过一些手段让恶意的内容生产者之类的人的东西获得更多曝光。可以类比一下恶意的 SEO ，比如内容农场。当然这会牺牲用户的体验。其二是通过简单的打分进行推荐效果并不好，而效果更好的通过列表排序进行推荐的复杂度是 O(n!)。书上好像没说是时间还是空间复杂度。所以有没有可能是地主家也没有余粮呢？或者可能两个原因都有？甚至可能还有其他的原因？比如我还听说那些总提信息茧房的人可能自己就是不愿意尝试新东西的人，因为成熟的推荐系统好像都是会尝试发现用户的其他兴趣的。

[r6cb]

这不可能吧，用户也会货比三家，你推荐的没别家的好就去别家买了

[EdmondGUO]

是否牺牲用户体验取决于模型的目标是什么。现在业界大部分模型本质上还是 pointwise 的，对短视频/电商推荐来说，推荐的是当下你能产生最大目标的视频/商品，一般是时长/点击转换率 or gmv 。

「为了增加用户的使用时间对真正的好东西藏着掖着，不一次给用户，而是细水长流。」这是短视频推荐的最终目的，就是最大化用户总时长，如果能做到全局最优，也就是你说的细水长流那是最好的。但事实上像我之前说的业界大部分模型都是预估的单个视频的时长最大化。但是这个我不认为是损害了用户的利益，单个视频看的时长长未必是你说的「真正的好东西」，这个本来就是极难定义的一个事情。

「为了增加用户的消费推荐更贵的商品，而不是有同样功能却更便宜的。」给你推贵的你未必下单买，最终打分未必比便宜的但是点击转换率高的好。

你说的那些内容农场呀骗点击骗点赞的视频呀，一般都是由运营或者 ai 来标注，然后通过策略进行过滤或者降权操作，不让他们出或者少出。

「通过简单的打分进行推荐效果并不好，而效果更好的通过列表排序进行推荐的复杂度是 O(n!)」这个就是上面说的单个最优还是全局最优，pointwise 还是 listwise 。其实很难做 listwise 。模型比较难训，时延上也不允许，我了解业界应该没有直接以序列质量为目标来优化的，一般都是在最后用策略或者另一个小的模型来优化一下。策略举个例子，打散就是一种优化手段，纯粹按模型分排序，可能某一个你特别喜欢的作者会连着出，这时候打散会防止他连着出，这样长期来说不会让用户感到厌倦。

[huc2]

@EdmondGUO 现在 llm base 的推荐好像是 listwise 的？比如快手的 oneRec 。不过现在的 llm base 的推荐算法还感觉还是偏讲故事用

[EdmondGUO]

@huc2 是的，oneRec 生成的确实是一个序列。其实在他之前，也有人做把系统推出的几个用一个小模型重新排列组合，也是一种 listwise 的想法。不过效果没有好到在业界推广开的程度。

[akira]

假如有个用户的消费能力是 二锅头，然后推荐系统一直给他推茅台。这样的推荐系统有公司会用么。

[Edwinxedwin]

推荐系统最大的邪恶之处是培养用户成瘾性。