越来越多的 ai 内容会不会逐渐导致模型崩塌，从而让人类难以进步？

[S1ngleton]

这个想法其实是从前年用 langchain 做一些 ai 项目时候想到的，首先楼主并不属于 ai 的构造者，而是使用者，所以内容有可能不准确，欢迎指正。

关于现在的 ai ，产生了以下判断：
1. 世界上逐渐越来越多 ai 产生内容，这一点毋庸置疑。
2. 另外有所了解，一般 ai 用自己的东西训练自己会导致性能越来越差。
3. AI 能够帮助越来越多人输出内容，就导致人类这个“巨大的 AI”越来越少机会去输出内容训练当前的 ai 了。


不知道大家如何看？

[beasnail]

训练 ai 最终靠人，我觉得人会筛选新的好的数据去训练的，不会草率自动抓取不挑选

[sddyzm]

一直会是人与 AI 相辅相成

[SiWXie]

计算器出现使你不会算数了吗 ，或者智商倒退了吗

[beyondstars]

那问题来了，用户和 LLM 交互的数据这个也能 AI 生成吗？ AI 再怎么强，总得有人去用吧，这个和真人交互的日志记录不能算是 AI 内容吧？

[streamrx]

不会

[S1ngleton]

@beasnail 但是如果大多人都在用 ai 生成内容的时候，真正人产生的数据就少之又少了

@sddyzm 如果是这样，那当然最好，就怕是人类完全依赖 ai 去输出

@SiWXie 不是对人，是对 ai

@beyondstars 我的理解是：这个更多是提问或者需求命令吧？高质量的人类文档知识产出会变少了

[chenliangngng]

对人类来说，人类语言收录的“新”的东西一直都只是一小部分人创造的，顶级学者、艺术家、哲学家、政治家等等，其他的人所做的事情，不过就是重复重复重复，ai 现在也充当了这个复读机的作用

[wat4me]

大部分人干的事也不会推动人类进步

[catazshadow]

会的，人类文明会两极分化然后崩溃。

无法产生原创思想的大多数人会被 LLM 打压，少数精英能够掌控 LLM ，两种人越走越远，最后产生冲突

[syntaxj]

想多了 人类进步跟普通人没关系 基本上是另一个物种

[levn]

模型还没有开始全自主导的训练 还需要训练者的干预

[gumayusi]

@SiWXie 如果计算器把自己的生成结果不停地塞进互联网，让互联网上充斥着重复的 8×9=72 、sin30°=1/2 这种正确但是冗余的数据（这还是确定性的计算机，你让有幻觉的 LLM 来干，它可能偶尔往互联网里塞一条 8×9=sin30°），那迟早让互联网用户的智商集体下降，毕竟人类的 CPU 主频太低，当互联网信息密度过低时，人类是无法吸收的，就像把一顿饭倒进一锅汤里，你要吸取一顿饭的营养至少得把整锅汤喝一遍。

[SiWXie]

@gumayusi #12 你说的这种假设实际已经出现了，你把人想象成 Agent ，这些 Agent 在网络上发布了大量不真实的信息（或者说无用的信息），我们接入互联网后，不断与这些信息进行交互，我没感觉到现在的人类智商有所下降，因为我们拥有个人思想与集体思想，它指导我们去识别什么是正确的，什么是虚假的。工具在帮我们筛选最有效的信息，例如搜索引擎推荐的大多数是点赞数量最多的，而非无人理睬的。目前的 LLM 也在做这件事，它收集信息是经过大多数人验证的

[catazshadow]

@SiWXie 集体思想恰恰是制造弱智的

[THESDZ]

目前 AI 仍然是“经验”形的。无法“创造”超出人类想象边界的东西。
等 AI 进化到能够“真随机”且对“随机结果”进行择优的时候，大概率就会取代了，那么我想问：择优有场景，才能择。那场景是什么呢？

[Alias4ck]

AI 只会让一个事情越来越明显,越小众,越低概率的事情越不会出现了, 少数人发出的声音听不到了
未来感觉大家会有三体的思想钢印, 真就复古了哈哈哈