一个新技术出来，立刻就想着用权力限制，这样科技怎么发展的起来？

[xxfye]

国家互联网信息办公室关于《生成式人工智能服务管理办法（征求意见稿）》公开征求意见的通知 http://www.cac.gov.cn/2023-04/11/c_1682854275475410.htm https://www.ithome.com/0/685/672.htm https://www.ithome.com/0/685/679.htm

[FranzKafka95]

是限制还是规范，这谁说得清。

[whereFly]

没新技术也不会影响老爷们的幸福度，所以...

[gant]

生成的内容应当真实准确。这一条直接否定了强人工智能前的所有类 ai 。和所有国外 ai 在国内的一切应用。

[gant]

清朝以来的老传统了。严格，普遍，选择。

[artshooter]

上午看到规范截图的时候
还以为是网友玩梗。。。

[sakujo]

规范立法有什么不好

[LaurelHarmon]

不是，你可以喷各种不好，但是这一点喷错了。
这个恰恰是制定规范，定义好边界之后让你们放手发展。
如果没有规范，厂商也会战战兢兢，不知道尺度给多大，不信你看规定出来之前，文心一言不是自觉要求绑定身份证了。
而且生成技术出来后，各种音视频合成、谣言，确实会对社会伦理、秩序产生很多干扰，人心比你想象地要险恶，有必要及时出台法律法规。
国内没有率先造出 ChatGPT 是因为刷题内卷 996 等其他好多因素，限制了创新，肯定不是因为这一条法律禁止你创新。

[zkncu9zjczw]

@LaurelHarmon ❝如果没有规范，厂商也会战战兢兢，不知道尺度给多大❞

[LaurelHarmon]

@zkncu9zjczw 看不懂人话吗，我都说了，你可以出喷别的，喷这喷那，但是顶层设计那些这个跟这条法律没有关系。这条法律本意是保护你们生成的，虽然是带着镣铐跳舞。

[god7d]

@LaurelHarmon

“如果没有规范，厂商也会战战兢兢，不知道尺度给多大，不信你看规定出来之前，文心一言不是自觉要求绑定身份证了。”

法无禁止即可为

[zkncu9zjczw]

@LaurelHarmon ❝这条法律本意是保护你们生成的，虽然是带着镣铐跳舞。❞

[ljrdxs]

@whereFly 但洋大人靠科技优势可以逼老爷下台。甚至不需要自己出手，遇到能干的代理人，给他们科技支援，让他们对付老爷的军队。
普京核弹数量比老爷多得多。乌克兰打得比较好时，也明显有下台压力。

[LaurelHarmon]

有些人形复读机还想造 chatGPT ，笑死。技术发展跟你们没关系~

[yaott2020]

冷知识：美国也在打算这么干

[leena]

我是看出来了，别人不管你，你是哪儿不舒服是不，还戴着镣铐跳舞，你见过哪个正常的地方是戴着镣铐跳舞的，只有神经病觉得这样是正常的

[yaott2020]

来源：aHR0cHM6Ly93d3cud3NqLmNvbS9hcnRpY2xlcy9iaWRlbi1hZG1pbmlzdHJhdGlvbi13ZWlnaHMtcG9zc2libGUtcnVsZXMtZm9yLWFpLXRvb2xzLWxpa2UtY2hhdGdwdC00NmY4MjU3Yj9tb2Q9ZGplbWFsZXJ0TkVXUw== (base64)

[ljrdxs]

@LaurelHarmon 最基本的道理，生成式 AI ，不是以前那种写死的程序。
生成结果，开发团队无法有效预测，无法有效控制。注意“有效”，我不是说不能。
@gant 3 楼一阵见血。

[yaott2020]

抱歉，没看到下面的链接

[yaott2020]

其实 AI 发展一直都别怀疑是否会超出人类可控的范围，合适的立法规范也能保障安全发展。国内的那条“必须符合社会主义核心价值观”看看就算了，只能说提出这点我简直感到无语，这都可以加点红色元素。。。

[LaurelHarmon]

@ljrdxs 没错，这也是深度学习最大的缺陷，黑盒不可解释。ChatGPT 也经常被带跑，但是经过修复还是好多了，有效范围能还是比较可控的。具体实施就见仁见智了

[az467]

卫星上天，红旗落地。

[ljrdxs]

@LaurelHarmon
一、修复，常常是用户发现问题，反馈、闹大，才去修。
二、修复之后还是肯定有大量问题，只是大家暂时没挖出来，甚至只是暂时没闹大。

真按这法规来，开发团队不被搞死才怪。

[duke807]

严格立法，普遍违法，选择执法

你看拼多多的事最近有人受到法律制裁吗

[imes]

@yaott2020 14# 欧洲这么干我能理解，美国是哪派人想这么干？是利益关系导致的吗（如果是，那我也能理解）？

[LaurelHarmon]

@ljrdxs 恩恩，这里面确实不可控因素太多了。如果既想做的惊艳，又要保证生成的东西没有负面的内容（例如涉黄涉恐），感觉比开发模型和系统本身还难。所以也是螺旋上升吧，如果不能保证不被滥用，我觉得稍微降低一点生成效果也不是啥坏事。君不见 OpenAI 除了专攻模型结构，还雇佣了很多标注工来保证输出内容合乎道德，不然生成式模型在别人用心的人的手里将会把阴暗面无限放大。

[faceair]

GPT4 训练出来后也是多花了半年来做内容安全，由厂商自觉变成法律规定其实也没啥问题吧。

[LaurelHarmon]

@faceair 说不通的，秒秒钟给你上升到一切都不好，哪哪都不对。

[imicksoft]

造假聊天记录可以促进科技进步？

[mmxq]

首先要把逻辑捋捋清楚：
技术应该被关进制度里限制住，这个应该是共识，没有边界的技术会导致各种重大问题。
但这条共识在中国大陆上被异化了，ChatGPT 的出现和使用应该被限制没错。
但这个限制在中国大陆不是出于“对技术本身的担心”，而是明显出于对“错误的政治观念和不符合宣传机器论调的担心”。
于是在他们打着限制的旗号，行镣铐之实。
限制应该是：我担心 ai 的出现改变现有的社会结构，引发问题。但现在我的人民还没有做好对接 ai 的准备。所以我广泛讨论 ai 技术对社会的方方面面影响，然后接纳开放的心对待技术，迎接挑战。
但现在我的祖国现任执政党并没有干以上的事儿，他们墙了 ChatGPT 的 API ，这可不是该有的态度。
所以，我有理由担心 ChatGPT 在中国大陆有一天面世的时候会被“改造”，不是一个中立的技术产品，而是又一个宣传机器。

[nomagick]

有间谍，间谍故意放出这个东西，打击创新积极性和市场潜力

[MrZhaoyx]

http://www.cac.gov.cn/ 为啥没有证书啊

[ljrdxs]

@LaurelHarmon “又要保证生成的东西没有负面的内容（例如涉黄涉恐）”
我一直说的就是根本不可能保证。
你雇佣的人只能想到多少问题啊？这世界上的问题是有限的么？无限多的东西，试了多少，都不可靠。

[alne]

@LaurelHarmon #20 新事物规范肯定也是慢慢完善的啊，怎么可能一下就成型了，这玩意儿就是修修补补，又不是法律，修改什么的周期很长

[liprais]

你们想多了，这玩意明显是拉偏架用的，比如某某做这个就没啥事，你做了就犯法
常用手段了，不然咋平时在国内吹上天，一卡脖子就翻白眼

[chocotan]

@MrZhaoyx
有 https ，但是 301 到 http 了。
居然还有这种操作，真的是活久见

[alne]

@ljrdxs #22 这是法规吗？
初期修修补补不很正常吗？

没什么要修的了，再变为法规才正常吧

[siknet]

据《华尔 日报》 4 月 11 日报道，出于对人工智能（ AI ）技术可能造成危害的担忧，拜登已开始研究是否需要对 ChatGPT 等 AI 工具进行审查。

拜登表示，AI 可以在气候变化和应对疾病等领域发挥重要作用，但同时也可能给社会经济和国家安全带来风险，这些都是需要考量的问题。

[sakujo]

https://www.ithome.com/0/685/679.htm

[Lightbright]

@siknet 还好没说要符合美国特色资本主义价值观

[ljrdxs]

@chocotan 管网络的领导搞政治的、抓思想斗争的，不懂技术的。
联想到大连铁路系统依赖 Flash 和 Ghost 系统。你想想中国多少通讯被 NSA 等西方机构截取？
打仗时，人家不必亲自下场，只要把截取的情报提供给中国的敌人，起码让中国兵死伤惨重。莫斯科号就是前车之鉴。

[centralpark]

理论上来说，制定一个法律规范当然是好事儿。

实际上来说呢？各位也都不是外宾，对这边的「法治」应该也都是了解的：严格立法，普遍违法，选择执法。你看看这个规定，虽然说没有禁止发展生成性的模型，但是以下几点你敢说不是口袋罪？

- 「利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。」这可能吗？ GPT4 都做不到
- 「履行算法备案和变更、注销备案手续。」一个牌照就拿捏住你了
- 「要求用户提供真实身份信息。」这条只有大厂才有能力做吧，还不如直接说个人禁止提供服务呢
- 「采取适当措施防范用户过分依赖或沉迷生成内容。」说你沉迷就是沉迷，版号你不会不知道吧
-「应在 3 个月内通过模型优化训练等方式防止再次生成。」这条最厉害了，整改期间能上线吗？还是直接关停？

[ljrdxs]

@alne 你的意思是 @gant 3 楼说的，定稿时会改？你的信心来源？

[misslita]

美国这看看就好你让他们颁布一条规范和审查估计都不知道扯了多少皮 gpt 已经迭代到多少代了，国内可能不同直接可以一刀切政策落地效率秒杀😄

[icyalala]

@LaurelHarmon 你读完那个通知，再回来看看你自己说的什么话。
你要是按通知走，连 GPT-4 都过不了规定。"放手发展" 就是扯淡。

[misslita]

@siknet 拜登啥都研究但是搞不定的🐶他连抖音审查都能搞个几年何况是自己人的东西

[akira]

法律限制是必然的，至于里面的内容如何解读，那可能要法律专业的人士来做会比较好一点。
不论如何，下来国外的 aigc 是否能进国内也有一条明确的指引了。

[liveoppo]

关键是具体管什么，别人家管的是色情、反恐、隐私，你看看这边管的是什么。

你管太宽则 AGIC 必定半死不活。

[efaun]

我想知道指定规则的人有多少是懂技术的? 有多少是做 AI 的?

[kawaii303]

@LaurelHarmon #25 现在国内的 AI 还没发展起来，就先给它带个镣铐，它怎么发展的起来呢？很多时候创新必然会对现有的东西造成冲击，现在给它立个规矩，就相当于限制了创新的方向，但是官老爷们哪知道 AI 会往哪个方向创新呢？他们定的方向不阻碍创新才怪呢？

[israinbow]

第五条 ... 履行个人信息保护义务。

🤔原来这玩意儿只是个义务啊, 怪不得没人履行.

[subframe75361]

从积极正面的角度来看，大部分要求都认同
但是字里行间说的是：ai 要有党性
就挺中国特色的

[2000wcw]

你认为科技是为人类的进步服务，但是统治阶级认为所有的科技都是应该为他们的统治服务。

[alne]

@ljrdxs #42 你的意思是 ai 发展到现在不会有巨大进步了？

[DeltaSix]

楼主多少有点外宾了，是第一天在中国生活吗

[yvescheung]

讨论法律法规的前提是这个社会是法治社会，不然再完善再缜密的文字也不过是废话而已

[EminemW]

这意思是没打算自主研发，等国外跑的差不多了，在拿过来做本地化

[yvescheung]

@LaurelHarmon 国内游戏产业也早已制定规范，然而并没有人放手发展，因为即使有了规范，厂商也还是战战兢兢不知道尺度有多大，今天不能露大腿，明天血不能是红色，后天不能出现英文，审核机制也是不透明的，版号能不能拿到也没有条文可参考的，会不会被批评为电子海洛因也是要看运气的

[duckgo991]

最终解释权归老爷所有。。。

[lhbc]

楼上引用美国新闻用 墙内简体中文摘要消息 是来搞笑的吗？你们看过华尔街日报的原文没有？

[mzliangjianjun]

连 AI 都是戴红领巾的
赢了

[qeqv]

@centralpark 「应在 3 个月内通过模型优化训练等方式防止再次生成。」笑死我了，这条不就等于说做出模型上交给国家吗

[cassyfar]

@LaurelHarmon “如果没有规范，厂商也会战战兢兢，不知道尺度给多大”

是不是如果没有规定你吃饭吃几碗，你也会吃得战战兢兢？

[leloext]

扩点想象，"连 AI 都是戴某旗的"，或无限扩展，可以挥想象力
纯空想，请勿代号入座。如果感觉冒犯了说声"sorry"

[Azumo]

100 年前慈溪让人跪着开车、20 年前禁止游戏机生产，今天你说西方技术封锁我们

[diduanjiucai]

这几年越来越不敢说话不能说话了，越来越看不到真实自由的表达，这样的统治，科技发展不起来挺好的。想想科技要是真的发展起来，出个 AI 网络警察，带着老百姓不能左右不能妄议的权限，24 小时不停的拦截监控分析你们的行为立场，你们还睡得着吗。

[c6h6benzene]

中特社 AI

[javlib]

AGI 诞生后，影响的可不是什么核心价值观，影响的是整个人类文明。
类似于工业革命，影响的不是皇帝谁来当，而是差点把中国文明给灭了。

[charlesliu]

无所谓，东方不亮，西方亮。

[ljrdxs]

@alne 自己 36 楼讲法规，我回你也是讲法规。一看自知理亏，53 楼转进到哪去了？

[lafuerza]

回答这个问题的前提是“科技发展的起来”，如果这个前提不存在呢？

[DiamondY]

OP 的想法很传统

[Vveeb]

（瞎掰：）属于是孩子刚怀上（还是借的别人的种儿），能不能生出来还不一定，就开始想要管他不能抽烟喝酒不能早恋....了

[bigbrother]

规范当然好，但某群人发布的关于内容方面的规范从来只有一个目的

[amon]

建议开喷之前至少看一眼里面的内容吧。二极管思维并不可取。

[wunaidouzi]

欧盟也在指定

[Cheons]

p2p 爆雷时，可不是这种想法啊

[jjianwen68]

科技的发展，百姓的生活，D 的领导地位，互相冲突的话，排个优先级吧

[yaphets666]

@LaurelHarmon 我本意是想帮你，却把你杀了，那我是好人还是坏人？

[zero47]

技术爆炸不是常态，稳定才是。在你家旁边建个核电站降低你的电费你愿不愿意？对不可控和不了解的东西，人首先反应都会怕。

[X0ray]

看你是想解放生产力还是解放其他啥的东西了。

[jishu541464750]

“如果没有规范，厂商也会战战兢兢，不知道尺度给多大”，你猜为什么现在厂商们会战战兢兢

[jfdnet]

这跟技术没关系，只跟“内容”有关系。只要是生成“内容”，就必然是受管控的。

你这标题起错了！

[chenPiMeiHaoChi]

@LaurelHarmon #3
1. 放手发展（指莆田医院；
2. 战战兢兢（指某网盘拿用户数据狠狠的训练；
3. 对社会伦理秩序产生干扰（指北极鲇鱼装死，大声斥责孔乙己；
4. 上面本意都是好的，都是下面曲解了；
我也是支持立法的，但是实际到底是怎么回事大家心里应该都有数，上回是 1839 年好像？

[InDom]

加一条: 输入输出需经人工审核.即可

[Building]

@LaurelHarmon 哈哈哈，严管了这么多年，我想国内互联网的生态和内容应该很好吧，至少不能是垃圾堆吧

[wwwe]

这下 ChatGPT 不遵守国家法律，可以依法封杀喽

[gaodeng]

@LaurelHarmon 我只知道上次给谷歌上镣铐的时候，百度并没有好好做中文搜索，而是肆无忌惮吃起了人血馒头。这次剧本会有什么不同吗

[duanxianze]

你们说的是美国，德国，还是意大利？

[daidean]

@LaurelHarmon 一开始就搞错了，它们只是想喷上面而已，拿什么由头去喷并不重要，你为这个由头去辩解，它们压根不在乎。

[Huelse]

笑死，就算没法规在做的各位也做不出来

[nuansediao]

脑子不行还爱喷，愁人

[lakehylia]

冷知识：最先限制的是欧洲老爷们

[pkoukk]

@amon 看完我更想喷了

[z782297190]

立法公布官员财产推了 10 年，立法网络实名制 1 年推行

[xx6412223]

当年区块链给老大忽悠瘸了，亲自下令要加快发展。
再之前李要发展金融创新，P2P 雷的多少倾家荡产，论坛有损失的也有几个
如果啥也不管，野蛮发展，AI 诈骗，黄赌产业，假扮 AI 的各种妖魔会很快流行你信不信。我们创新不行，用新技术变现的动力却很足。

对与技术发展，上面要做的不是亲自下场过多干涉，而是给一个合理的法制环境。中国一直都是尝试摸着石头过河，我认为这个行为也是一种进步。只是 TZ 问题，只能小步探索

[Pastsong]

你这个喷点 喷欧盟也可以 喷美国也可以 没有什么新意

[hahastudio]

连人的历史发言都能被打成不真实准确，你怎么要求 AI 跟总路线摇摆

[L4Linux]

@LaurelHarmon #9 这哪里是人话？这话能说出来说明被 CCP 驯养得好。

[janezhou]

@Cheons 当时就是有意让它自己发展一下，把经济市场搞活，结果全 tm 进了自己口袋

[howfree]

还没有熟的一个果子，
然后一些人就很饿，
饥不择食，
然后忽然发现一个果实了以后，
扑上去把它摘下来吃了，
一口吃下去，
甚至于连嚼都没嚼就咽下去，
咽下去以后发现肚子痛，
然后又苦又涩的感觉，
你说他应该不应该吃，
你要说不应该吃他饿，
你要说他应该吃，
他吃的是个涩的是个不可以吃的东西。