GPT 生成的内容确实需要 Ban

[jatsz]

知乎时间线上有个问答，看文风觉得是 GPT 生成的。顺着好奇心，点了作者看看以前的回复，结果不出意外： https://www.zhihu.com/people/ni-chi-xiang-liao

昨天还看到站长 Ban 一个 GPT 生成的回复，我是觉得这个做法很好。要不早晚 V2EX 也会变成一个内容农场。如果知乎不做动作，用不了多久，知乎也会变成一个内容农场。

[jatsz]

如果顺着这个作者在知乎提交内容的历史，你会发现这个作者去年是有真人回复的，从今年月份开始就一直是 GPT 生成的内容，这种如果你给 GPT 生成的内容更多的奖励，那么用 GPT 生成的内容的人就越多。

[jfdnet]

Ban 不 Ban 这个趋势也是逆转不了了。本质上，一切都是效率问题。

[SGTeam]

已经开始这样了，有人开始把 ChatGPT 生成的内容穿百度网盘，在知乎上生成视频和文章的方式“赚钱”。
这些人都会对 ChatGPT 生成的内容负责吗？
所以免不了要有错误的内容在的
个人认为这是一件非常可怕的事情，
因为中文互联网本身就已经千疮百孔了
还要迎来这些“利用 ChatGPT 赚钱”的人的血雨腥风

[est]

其实这是一个哲学问题。

网络社区需要的是一个符合常理语气平和的回答「内容」

还是狰狞的充满个性和戾气的人？

[amery2010]

这种事是没办法避免的，你 Ban 了 ChatGPT ，会有更多的 XXGPT 出来...
归根结底，还是内容创作者开始变懒了，能 10 秒搞定的对他而言就不想多花 10 分钟。
ChatGPT 本身是值得用的，毕竟比一般人从一大堆的某度引擎给到的网页里找出不是广告的高质量文章，再进行整理要快太多了，也准确很多...如果他们可以基于 ChatGPT 给到的资料进行整理，出来的文章肯定比当前搜索引擎搜索出来的内容要更好用。
技术没问题，问题是怎么用好技术去做正确的事

[jatsz]

@est 是个好问题，类 GPT 参与到我们生活中的边界是什么？跟我时常接到的一些 AI 客服类似，自己说了好几句话才发现自己是跟 AI 机器人对话。说实话我是挺沮丧的，很难讲这种沮丧是因为内容本身是推销，还是觉得自己跟一个 AI 机器人对话属于浪费“感情”呢。如果这通对话能帮我解决“问题”，那么我还会有这种沮丧的感觉吗？

[lovedebug]

@SGTeam 中文互联网已经是垃圾场了，大家都忙着割韭菜

[jatsz]

@SGTeam 因为中文互联网本身就已经千疮百孔了 //是啊，我在想如果百度哪天没有了广告，就做一个“利他”的搜索引擎，那么百度是否还能得到高质量的内容。还是说默默的随着 SEO ，内容农场，百度其实已经没有“能力”得到一个高质量的搜索结果了。

[hahastudio]

应该是从 02-12 开始用 ChatGPT 的。回复不再有大量的空行了，行文也更加非口语化了。
不过，也可以看到，用 ChatGPT 回复的那些，也没啥点赞和回复

[hahiru]

随着迭代升级后，人工智能也可以换其他文风来回答让人难以判断。
人工判断人工智能或者用人工智能判断人工智能都无法完全避免这种情况。
这类似于互联网初期的病毒木马大战杀毒软件。然而道高一尺魔高一丈，有利益就有对抗。
知乎如果不及时杀毒，那死了也是属于自然选择。

[aitianci]

@hahiru 同意，你想要攻击性强的，标点符号使用不规范的回答，那太简单了，估计人家一分钟就学会了

[paradoxs]

ban 啥？ 你来说一下怎么 ban ？ 怎么识别 gpt ？ 你觉得是就是了？

[zictos]

他写这些内容也没什么好处啊！
而且 ban 的话可能会误杀的

[cmdOptionKana]

会遇到一个问题：我们支持封杀 AI 生成的回复，是因为我们讨厌这种内容，但是，只要讨厌的，就应该封杀吗？

我们简体中文用户，我们自己正是最深受 “讨厌就封杀” 制度的用户群体，结果我们又支持这种做法？

（我暂时还没有深入思考这个问题，我只是感觉这可能是个问题）

[rwecho]

为啥好几个都在说中文互联网是垃圾场?

[Livid]

@cmdOptionKana https://meta.stackoverflow.com/questions/421831/temporary-policy-chatgpt-is-banned

[Livid]

这个问题和是否中文无关。

low effort 的垃圾内容在任何注重交流质量的地方都应该被处理。

[InDom]

最关键的是, 如果我需要 ChatGPT 的回答, 我可以自己去问, 我对于 ChatGPT 生成的结果可能是错误的是有一定预期的.

而如果是其他地方使用 AI 生成的内容回复其他人, 可能会给别人造成一个: 这个答案看起来是真人的回答, 可能是可信的.

这样的一个错觉, 对于提问者来说, 不仅没有帮助, 反正增加了识别成本.

[krixaar]

@cmdOptionKana #14 想多了，把 KY 的人叉出去是放之四海而皆准(指准许)的做法……

[kop1989smurf]

恰巧刚在时间轴发布了类似的评述，引用如下：

“回复 by ChatGPT”是一个社区积极性的巨大威胁，但如何辨析“ChatGPT 回复”，是一个哲学问题，本质上和 Copilot 遇到的集体诉讼，Stable diffsion 面临的著作权危机相同。
既机器学习 AI ，打破了人们传统意义上的著作权、版权的概念，而且很难在短时间内拿出一个 AI 公司、AI 使用者、训练素材提供者都能接受的，且具有可行性的解决方案。

举个例子，如果一个人在某个领域的能力，恰巧与 ChatGPT 相当，且使用了类似 ChatGPT 的语气，那么此人的回复算“GPT 回复”么？

如果算，那么其实相当于剥夺了一部分人的发言权利，或者说不如 AI 的人不配发言。
反之，如果不算，那么"GPT 回复"，其实是一个伪概念。

[kop1989smurf]

我个人理解，“禁用 GPT 回复”，只能从“交流的尊重，诚信与诚意”的角度来处理。一旦牵扯到“低效”，“虚假”，其实就会陷入哲学的悖论之中，毕竟目前的 AI 都是机器学习 AI ，最起码是尊重统计学的，结果更接近现实中位数。

[ljsh093]

@Livid #16 正确的，但是发现即封号是否过于严厉？是不是可以考虑首次警告呢？

[cmdOptionKana]

@krixaar 在英语网站上（或比较自由的国家的网站上）凭喜好叉人，问题不大，但简中平台能自由交流的网站太少了，因此特别希望能多提倡宽容，少提倡封禁。不是完全不封，而是希望谨慎一点，宽容一点。这是我不成熟的想法，这个问题我认为不容易想清楚。

[hanyuluo]

可以加个功能：用户投票某个回复是否为 ChatGPT 生成，如果某用户的票数过大，默认折叠回复或显示“该用户大量回复经由 ChatGPT 生成”。

[HeyWeGo]

也许是内容付费的好时光了

[Ericcccccccc]

@cmdOptionKana 你发帖都是机器人回复, 你还有动力发吗? 直接找机器人问不就行了.

[cmdOptionKana]

@Ericcccccccc 比如 V 站这里，本来就禁止 “重复内容灌水”，只要严格执行这条就行，没必要特别针对 AI 。因为目前的 AI 对一个问题只能生成一种意见，如果一个帖子只有一条 AI 回复，或者热帖有不超过 3 条 AI 回复，我觉得很难说问题严重。

[Ericcccccccc]

@cmdOptionKana 你是没见过最初火起来的时候论坛里都是机器人回复, 还好站长立马选择封禁.

[XiaoBaiYa]

你发的这个，他赞最多的一个回答有 2 个赞，是他自己手动答的

[snw]

可以看一下这个 COCO 债例子：
https://m.weibo.cn/detail/4881689689460215

基本上可以确定 ChatGPT 自己编造了一个 2016 年葡萄牙商业银行减计 AT1 债券的案例，甚至杜撰了参考资料和链接。
更严重的问题是，ChatGPT 编造的这个故事被自媒体或内容农场传播到了互联网上，导致给出处的 New Bing 也被污染，进一步传播了这个编造的故事。
https://m.weibo.cn/detail/4881683080025480

以前内容农场互爬几次会导致内容严重劣化，很容易分辨。现在带有大型语言模型的 AI 互抓时会重新优化语言，这就导致 AI 互相吃屎时信息不会衰减消亡，反而大幅强化传播效果。

----------------------------------------

其实并不只是 AI ，互联网大 V 与自媒体叠加也可以形成这种“媒体蜈蚣”的效果。

比如俄亥俄州氯乙烯列车出轨事故之后，中文网络上突然出现大量“可口可乐最大的原浆厂在俄亥俄州”这个信息，有些甚至煞有介事地加上“根据查询可口可乐原浆工厂官网得知”。但如果你搜索 2022 或更早的网页几乎没有什么关于可口可乐原浆具体在哪里生产的信息，也没有所谓的工厂官网。
这则信息的始作俑者似乎是某篇爆款大 V 或公众号文章。

[9999999999999999]

不是说因为 GPT 内容问题，中国共产党领导下的站长已经无情了 ban 了好多用户？好怕

[cest]

@snw #30 所以要下毒很容易
只要爬过你的毒，就有几率被 trigger 出来

[est]

@snw 更可怕的是。。。这种事不是有了 AI 才开始做的。。而是早就有人系统性的在人工设计并人工 /机器账号传播 mis-information 和 dis-information

[zjvbqla]

@SGTeam 生成視頻還做不到吧！如果是類似剪映這樣的一鍵成片質量的話根本沒法看。

[snw]

@est
实际上并不一定需要系统性设计。你看我第二个例子，只需要一个流量号发个爆款文，然后等着傻乎乎的粉丝、阅读者、农场分享扩散就行，前者与后者并不一定要关联控制。

[jlak]

@snw 信息源的连锁污染确实可怕，以后怎么才能确定信息靠谱否

[jlak]

我想起我前天问了 new bing 玩玩，未来有没有可能出现哆啦 A 梦里的任意门这样的道具，牛病说了一堆废话后很认真的说有人用 unity 开发出了任意门。。。

[DOLLOR]

@cmdOptionKana
你以为：允许 AI ，整个主题下大部分都是人类讨论，偶尔有两三条 AI 回复作为“点缀”。
实际上：允许 AI 后，人类还没来得及回复，跟贴区已经被 AI 回复占领了，人类回复才是“点缀”。读者还要从众多长篇大论的低质跟贴里找出有用的信息。

[cmdOptionKana]

@DOLLOR

我上面说到了两点：

1. 并非完全不封禁，而是谨慎处理。
2. 本来就有 “禁止重复灌水” 的规定，严格执行这条，加上目前 AI 对一个问题只有一种回复，结果就是不需要增加针对 AI 的特殊规定，沿用原有规定就能解决问题。

[longbye0]

我倒希望加速这个进程

[sugarsalt]

同意。chatgpt 不是有很多语料来自互联网么，那当网上 chatgpt 的回答达到一定比例以后，不就成了 gpt 自娱自乐了？

[06_taro]

创世诸神现在看着人类在这里讨论要不要 ban 掉人类自认为的 AI 的言论时会心一笑，
反正再过一阵子 AI 们也会继续讨论起要不要 ban 掉它们认为的 AAI 的言论的。

顺便一提，有没有 effect 和内容的质量真没有绝对关系。毕竟现在把 ChatGPT 4.0 的很多输出放在互联网的绝大多数地方都是在提升平均姿势水平。当然，总有一些文人觉的自己圈子里写的东西更漂亮，几百年前就这样了，很正常。

[eb0c6551]

我觉得 ChatGPT 在社区里的问题不太可能解决了，因为很快就会识别不了。可能唯一办法是，社区自己在每个主题甚至每个回复下，自动添加 ChatGPT 的回复。这样至少活人没动机再把 ChatGPT 的内容贴过来。

[potatowish]

如果有人改变文字风格，故意模仿 GPT ，这种怎么识别？

[muooOOO]

@jlak 中文互联网在没有 GPT 之前就已经在不断的劣化，到处充斥着拉屎的和吃屎的人，真相对他们来说并不重要。GPT 的出现倒是可能会加速劣化

[cssk]

gpt 的答复，比大部分人的答复，更有“营养”

[tairan2006]

主要是 AI 容易胡编乱造

[Un83f37]

假若真的存在某种手段可以阻止用户发布 AI 生产的内容
这些人就会去创作真正的优质内容吗？

AI 只是放大了原有的问题

[Pipecraft]

@cmdOptionKana #39
> 1. 并非完全不封禁，而是谨慎处理。

这只会增加 MOD 们的工作量，而且被封禁的人会抱怨公平性。都 ban 掉最省事，争议会更少。

[gabkfivyfbst]

所以人类的创意和“独具匠心”体现在何处呢？人类面对这样一个通晓多学科多领域的 ChatGPT 时，会发现自己引以为傲的创意不过都只是建立在自己已经掌握的旧有知识上，所谓的“创意”也不过只是对已有文本内容的拼贴、综合、嫁接、挪用而已，当出现一个知识体量更大且文本拼贴、挪用能力更强的 AI 时，人类曾经引以为傲的创意能力将不再只是人类的专属。

[TGl2aWQgZGUgZGll]

要干啥干啥，可以考虑以下几个步骤：

这个很明显就是 GPT 的标志，哈哈

[cmdOptionKana]

@Pipecraft 但是在现实生活中，我们不是反对 “一刀切” 的政策吗？

如果是站长 Livid 对我说，他要节省时间，方便管理，我无话可说，因为他的立场可以那样说。

但如果是普通用户，我们应该明确告诉站长我们想要什么，我们认为的理想状态是怎样。

我理解并且尊重站长的决定，同时也表达自己的期望。

[lilchan]

ChatGPT plus 稳定代充。。
Q：1623#5825#40

[checkzhzzzzz]

@Livid #51

[dickdickgo]

赶紧毁灭吧，我认为 99.99%的回答没有 chatgpt 靠谱，包括我这条回复都是没有价值的。这些屌毛学者不也是基于前人知识拼接而来的，且大部分没有 AI 拼得好，论涵盖的领域 AI 更是秒杀了所有人类

[laydown]

我觉得最终是无解的。但现在只能尽量扼杀在摇篮里，以后肯定会管不过来，这是大势所趋。缓解的办法就是提升自己的认知水平。

[wangxiaoaer]

我觉得后面可行的思路是，这种问答类网站或者论坛自己直接接入 GPT ，对每一个问答都自动放上 AI 的回答，但是做个标记或者折叠。这样下面人类回复就没有继续复制 GPT 回答的必要性了。但是就怕同样问题，GPT 回答不 i 一样，这样的话，有些大聪明为了积分可能还会那么干。

[Illusionary]

你放心，你这不是付费问答，拿 ChatGPT 回答你的都是三分钟热度，又没捞你一分钱好处，一段时间后就没人玩了。

[Pipecraft]

@cmdOptionKana #52 似乎站长也没有“一刀切”。比如 /go/openai 节点好像可以使用 AI 回复。技术话题里用 ChatGPT 回复好像会被 ban 。一次使用也许只会被警告，连续使用才会被 ban 。
他的立场可以看一下最近他的回复。

最近看到太多用 AI 回复的，也看到很多举报的，和一些被 ban 的。

[Pipecraft]

@Illusionary #58 100 多天前就有人说 3 、5 天后就没人玩了。比如 https://www.v2ex.com/t/900131 的 75 楼。
可是似乎一直热度不减，以后感觉还会持续很长时间。

[Esen]

gpt 本质上还是满足人的形式化上的需求，不是实质性的，创造性的需求

[abuabu]

@cmdOptionKana 这种问题无需多当心，历史上有很多实践。比如我们倡议人人平等，但是确实讨厌某一些人，那么只需要将他们从“人”的定义剔除，再给他增加某种原罪就好。
再比如现实中，有人因为自身利益讨厌一个人，但是往往会需要找一个理由，比如他太邋遢，喧闹等给自己道德上的合理性。或者我们讨厌一刀切，只需要他回复内容都是低质量的那么就可以心安理得处理了

[jatsz]

@Livid #53 https://www.v2ex.com/member/lilchan

[gwbw]

@cmdOptionKana 思考了一下你前面的问题，我的观点是，这或许涉及到伦理方面的论证：AI(及其他自动化程序)是否拥有和人类平等沟通的权力。当然这又是一个新的需要深入思考的问题了 :)

至少目前我认为答案是否定的。一方面由于人类处理数据的效率远不如机器，同等时间内机器可以生成足以使人脑过载的信息量，所以让人类去和机器对话是不公平的。

另一方面是对于错误的容忍度的区别。一个典型的场景是 AI 客服，它若给出正确的回答时倒也还好，一旦不能满足需要，用户就会对其产生极大的厌恶，并要求人工客服介入；相反如果是人工客服犯了同样的错误，用户对其的厌恶程度往往不如对 AI 的高。stackoverflow 封杀 chatGPT 回答的逻辑大抵如此。

所以在传统的、设计以用于人和人交流的互联网平台上，AI 生成的内容应该被封杀——或显式标注并限制频率。后续可能会出现专门提供 AI 和人类交流的平台？这可能是个全新的领域，我暂且将其命名为 web4 （笑）。总之会有新的东西来弥补这个伦理漏洞，在那之前，还是人与人交流更加有趣

[darkbread]

确实得 ban,要不然网站全是机器人站长还怎么赚钱😆

[xinh]

不管怎么样都应该谨慎使用 ban ，现在大内网上动不动就 ban ，然后又吐槽互联网环境不好

[cmdOptionKana]

@abuabu

> 这种问题无需多当心，历史上有很多实践。

你说的那些实践，正是我担心的啊。

我没看懂你是讽刺，还是你真的认同那些实践。

[cmdOptionKana]

@gwbw 感谢，你这个说法对我很有启发。

[zagfai]

可怕之处还有一点是自我强化，ai 的讯息源如果是互联网的话，别人把他说的发布了，它又抓取了，就会更加确信自己的谣言。

其实社会也是在进步的，以后发言权肯定归于部分大 V ，普通民众对网上海量的信息的态度必然会培养出筛选能力，甚至看都不看。而大 V 、核心媒体、全职记者之类的报道真实性会更显重要。

[deadfishS]

到最后大家就会发现与其去这种平台上面看别人生成的东西还不如自己去问 gpt ，知乎之类的问答类型网站如果在没有什么变革的话就要凉凉了。毕竟现在上面大部分回答水平都不如 gpt

[Livid]

@checkzhzzzzz
@jatsz

谢谢，那个 spammer 已经被彻底 ban 。

[ImMrZhang]

ban 就 ban 了，但总有一天会进化到无法分辨机器 or 人类的程度（以目前的进度来看我觉得甚至不需要一年），到那时又该怎么办？

[cosette]

ban chatgpt 和 ban 灌水属于差不多的性质，而不只是 chatgpt 生成的内容是否完全胡扯，作为一个论坛大家都希望自由发言，但另一方面更希望能够看到有价值的回应和交流。如果依赖于 chatgpt 的回复，那完全可以在任何时候点进一个帖子，然后复制一段 chatgpt 的内容，每个人都可以这么做，可以预见肉眼可见的会有很多 chatgpt 相关的帖子充斥各个节点，另一方面 chatgpt 太过方便，如果不是一眼假的情况也懒得查证，间接助长灌水行为。

排斥 chatgpt 本身并不意味着所有人都比 chatgpt 的回答要高明，举个不恰当的例子，大伙儿一起打游戏，结果进来一个开挂的，虽然说开挂在某些方面就是表现得比手打要好，滥用 chatgpt 和开挂的共通之处就在于达成某种结果是如此的轻松，以至于根本不需要把握任何事情，只需要机械的按键猴子也能完成“工作”。正是因为这件事猴子都能做，所以就失去了讨论的价值。