基于 LLM 知识库，大家觉得要成功，或者要持续成功，做对哪些，或者不做什么事情比较重要？

[chilaoqi]

现在基于 LLM 大模型的场景里面，面向个人和企业的知识库比较火了，大大小小国内外厂商，项目都挺多了。

我看 1Panel 项目组也开源了自己的项目，MaxKB ，似乎还不错。https://github.com/1Panel-dev/MaxKB

所以想听听大家选择产品，或者自己公司要搞这块的话，有没有一些期待（或者坑啊？

[loryyang]

RAG 这玩意儿，本质上强依赖两个效果：
1. 大模型基座的能力，目前看下来，小一些的比如*B ，1*B 的都不太行
2. 检索测的效果，这个类比于搜广推的检索，要做好难度极大
总结来说，玩一玩，很简单，像那么回事。要做好，这事就难了。你可以自己拿开源的试试，基本上就我说的这种情况

[MadSix]

说实话，选择产品上，主要是还是 1.效果足够好 2.成本足够低。
之前也试过几家，包括跟 dify 之类的也线下/线上都沟通过。
好多企业选择知识库首先想到的就是 AI 客服，但实际用下来，目前没找到真的实现效果好的。基本要么用不起来，要么需要无数的人力去打标记。原本想要的是智能客户降本增效，用上知识库之后反而反过来了。
大家概念都说的很好，演示也是拿一些很傻瓜的场景做 demo ，一旦到实际生产落地的时候，对输入的内容要求太高了。又要有规律，又要规则统一，又要内容种类明晰不杂乱，总之基本不太可能实现，最终还是要大量的人力去打标记。
单在 AI 客服这个上面，目前就没找到能真的落地面向客户的。