邪恶的算法，有多少责任在程序员？

[lagoon]

早上听播客，叫“逗逗程序员”，说的是网约车司机困于算法，想办法逻辑突破，开玩笑叫“逗逗程序员”。

我在想，这类算法，有多少责任是程序员的？
为什么不叫“逗逗产品”、“逗逗运营”、“逗逗领导”。

没写过高深的东西，目前写过的号称“算法”的低端逻辑代码，无非是用某种方式把产品的逻辑实现一下，我这种程序员，只能算军工厂的工人。

不知道大厂那些负责的算法，程序员发挥了多少。主要责任，是不是应该是程序员的。

[janus77]

因为制作播客的人很多都是产品思维，实际上相当于产品把握了播客的话语权，所以题目当然不能说逗逗产品了

[Building]

程序员只对测试负责，产品经理和测试对用户负责

[jmc891205]

因为程序员这个称呼出圈了。。。对圈外人来说 跟软件相关的职位通通是程序员

[JamesR]

50%吧，博彩网站抓人时候，程序员也抓的。

[gengchun]

你怎么定义程序员？

人家认为在大厂工作的就叫程序员。根本不知道什么是产品、经理、运维。所有与电子科技有关系的都叫程序员。

程序员已经是一个过于泛化的概念。

[zpxshl]

裁员的时候多少人骂 hr...

[eason1874]

这叫社会原子化。就是那句名言：雪崩中，没有一片雪花觉得自己有责任

现在执行死刑也用这个原理，整个过程分几个步骤，每个步骤分不同人去执行，关键步骤同时让几个人去执行

高度分工之后，能让人的罪恶感大大降低，每一个人都能安慰自己说不是自己杀的人

[Leonard]

因为普通人只知道程序员，不知道产品

[dddd1919]

没有一片雪花是无辜的

[echo1937]

对行外人员而言，所有的软件开发部门的员工都统一叫“程序员”。

[woodensail]

众所周知，产品归属于研发体系，算是广义的程序员，完。

[belin520]

策略产品经理
程序员都是实现，并没有完全参与设计

[ohmycorolla]

值得深思的问题

[bengcaca]

既然吃的是带血的馒头，就别说自己是无辜的。技术确实无罪，但是落实技术用于现实的人，就别当了婊子还立牌坊了。

我也是技术，前些天看了个小品《互联网体检》，极其写实，又极其讽刺，身为技术，一点也笑不出来，砖是我们自己一块一块垒上去的。

别推锅给 pm ，也别推锅给 manager 、市场，当然他们肯定也不会是无辜的，一丘之貉罢了。既然赚了这个钱，挨打就得立正。

若是自己开公司的话，第一条规矩就是“不为恶”，希望有落实的一天。

[Dkngit]

所以二战德军基层普通大兵，是否要为纳粹的罪恶负责吗？

[coderluan]

肯定是有责任的，但是离用户越近责任越大，程序的责任基本上是最小的那一波，司机说程序员只是他不了解分工而已，而且实际上我们并没有办法让任何人负什么责，毕竟法律并没有把邪恶定义成违法，被邪恶所困的人一般最开始也受到了邪恶的诱惑。

[cairnechen]

反正算不上无辜，基本上不存在写代码的时候不知道这些代码是用来干嘛的情况

[Leviathann]

毕竟是拿了工资的，也不能说完全无辜把

[hidemyself]

肯定有责任啊，你写代码不知道自己这段代码实现出来是什么效果，不知道是用来干什么的吗？
当然主要责任肯定不是程序员的

[murmur]

算法是没问题的，决策者才是地主，算法说 10 分钟可以送到，决策者就让他显示 7 分钟，压榨你 3 分钟

[wangtian2020]

当然有责任
老板让你给程序加上自动更新，不立即辞职的都是罪大恶极！
老板让你给程序加个广告，不立即辞职的都是罪大恶极！

[kop1989]

首先，之所以叫“xx 程序员”，是因为“程序员”这个称呼是个统称。
外行把程序员定义为：与软件设计，开发，运营相关的人。

其次，我并不认为这种有悖于生产效率的产品逻辑有问题，换句话说，我不认为这件事应该形容为“责任”，更应该称之为“效果”。既程序员在呈现这个“效果”上，有多少功劳。因为开发、产品、运营最终的责任都是为公司提供最大的经济利益。仅此而已。

如果非要归咎一个人 /集体的话，应该归咎于资本和市场经济。

[madlifer]

众所周知，PM 也只是个打工者，定不了这种关键事项，这事儿主责肯定是资本家啊

[libook]

法律规定清楚了每种事情的责任主体，作为公司业务来说责任主体从来都是公司而不是员工，这也正是“公司法人”这一概念存在的意义，如果法律上为网约车公司写邪恶算法本身不违法，也不算协助网约车公司违法，那么作为员工的程序员就不负任何责任。

如果非结构性地归因，这个问题会变得失控，比如：
靠邪恶算法赚钱，有多少责任在网约车公司老板；
缺乏对邪恶的算法的管控，有多少责任在国家；
容忍邪恶的算法，有多少责任在网约车司机；
默许邪恶的算法，有多少责任在乘客；
支撑邪恶算法的运行，有多少责任在网络运营商
……

当然，道德绑架和网暴的时候都是自己怎么爽怎么来。

[nicebird]

类似的问题，战争有多少怪具体的士兵。战争审判判谁？

[p2pCoder]

这就得说出算法工程师群体中里那句经典的话了
机制设计 yyds

[rm0gang0rf]

现在楼房质量不行，能把责任放到工人身上吗？？？

[2i2Re2PLMaDnghL]

《计算机程序的构造和解释》

教师、将军、营养师、心理学家、父母编程。军人、学生和社会被编程。

[0ZXYDDu796nVCFxq]

推荐一本书吧
《艾希曼在耶路撒冷：一份关于平庸的恶的报告》

[mosfet]

那些搞菠菜的，不都是一锅端吗

[0ZXYDDu796nVCFxq]

讨论楼主提的问题

目前，涉及网约车、送餐员的算法，大体上在法律层面上合法的。严格来说，这不算违法更不是犯罪。

但这对社会来说，却是一种恶。
以详尽的数据，加上精密的算法，获得了和一个群体完全不对称的优势，并借助这种优势从这个群体上获取更多的利益。
这部分，程序员必定是有责任的，但最多只能算道义上的责任。

企业应当承担相当一部分的责任。
而某些不可描述的事物，则应承担大部分责任。他们剥夺了人的权力，让这些人在竞争中处于非常不利的境地，几乎没有协商、谈判和反抗的手段。

[littiefish]

@Building 没有一片雪花是无辜的

[starsky007]

部分法律责任，参考博彩、爬虫等案例。不想承担责任，可以找工作时不选择这样的公司、不接受这样的工作任务。

[heganyuliang]

前一句话还在平庸之恶，后一句话就马上把恶都推到利维坦身上去，自己只肯承担“道义上的责任”，属实精彩

[wangkun025]

我倾向于程序员不是无辜的。

[ch2]

@cairnechen #17 你写个模板，数值是别人填的，你也有错吗

[cairnechen]

@ch2

你可以去问问菠菜网站被抓的程序员

[muooOOO]

滋养出这么一个邪恶的怪胎，如果把责任归咎程序员的话，那么开车的司机是不是也在做恶？司机是收了钱的，坐车的乘客是不是在作恶？乘客享受了便利，纵容这个怪胎的人是不是在作恶？毕竟提供了大量税收，整个社会是不是都在作恶？

[NXzCH8fP20468ML5]

比如说像网约车外卖这些算法是邪恶吗？只不过将社会的分工更加明确，更加流水线，本质上提高了社会劳动效率，甚至和机器代替工人本质上没有什么不同，所以这这并不邪恶。

[dawn009]

@heganyuliang #34 “平庸之恶”本身说的就是“道义上的责任”

[dunn]

游戏玩家就是明事理 出事知道骂策划 骂马化腾 很少听说玩家骂程序员

[dawn009]

@bengcaca #14 以这个对“无辜”的定义，在社会中找不出任何一个无辜的人。依此逻辑，自己想打谁就可以打谁，同时自己被谁打都得立正。岂不荒谬。

[ZRS]

@muooOOO 是的 这就是常说的互害社会

[iugo]

这个播客可能是 声东击西 前几天的节目. https://etw.fm/190

[jerryjhou]

@xxfye “剥夺 human being 的自主性”被很多人认为是邪恶的。善恶是价值观的一部分，“机器替代人类”被某些人认为邪恶你不知道吗？这可以叫 Dehumanization 或 Objectification

[onionKnight888]

声东击西 第 83 期

[0ZXYDDu796nVCFxq]

博彩和网约车开发两码事
一个是犯罪（按属人或属地的执法权），一个是合法的商业

[dawn009]

@jerryjhou 同样也有很多人认为物化并不邪恶，而且正相反，反对物化才是邪恶的。

[Eiden]

众所周知, 代码并不体现程序猿意志

[jerryjhou]

@dawn009 我也是技术主义者。在保守派占据世界主流的今天，反对物化是 zzzq 。进步派也热衷一些浅薄的 agenda ，（在很多领域）比保守派还反物化

[yaphets666]

革命不彻底就这种结果

[zooeymango]

部分责任吧，这个部分来源于 coder 有选择不写邪恶程序的能力而没有做出选择，当然主要责任还是在决策人

[Paaranoia]

矛盾转移？

[irobbin]

游戏行业就不一样，游戏玩法一旦出现不好的变动，玩家一般是问候游戏策划而不是程序员（ bug 另算）

[murmur]

@Dkngit 那得看他们是被谁抓住的，是被苏联还是被美国

现在不是不允许挂路灯么

[KeeneSun]

哎呀

[ch2]

@cairnechen #37 一把刀既可以切菜也可以杀人，卖给杀人的赚的多，卖给切菜的赚的少，你不跟杀人的合作会有什么错？

[wingor2015]

有没有责任跟警察叔叔说吧，看看互联网公司全锅端的时候判决书就知道了

[adoal]

程序员在互联网公司做的恶里占多少责任是一回事，媒体拿程序员捏软柿子是另一回事。

[fox0001]

确实是个值得深思的问题。就是饭碗和良心，你选择哪个？就像战争一样，你是听从军令，还是选择做逃兵？

[lakehylia]

即使是 p2p ，程序员承担的后果也仅仅是把工资还给经帧人员罢了。网约车这都不算事。菠菜那种确实是会入罪，因为菠菜被定义为非法了，明知非法还提供工具，那就是刑事犯罪了。

[guanhui07]

值得深思的问题

[zcjfesky]

一个播客标题把你们上纲上线成这样了。
就是起名字的时候想了个有争议性的标题抢眼球而已。

你看，人家这不就成功了。
UC 新闻部发来贺电哈

[noNOno]

😒

[erwin1030]

有意思，原先矛盾是 用户和服务者，现在居然到用户和打工人身上了，而平台和资本确在矛盾之外。

[1350943277]

@ch2 写程序的目的性和逻辑性是很强的，就像买菜刀的人清楚地知道大部分菜刀是用来做菜的，写杀熟 /压榨等等作恶代码的程序员也清楚地知道代码背后的意义。

[bengcaca]

@dawn009 这个“无辜”对应的是良心，是道德，并不是法律，是一个主观概念（为做对应，暂且认为法律是客观的）。而且“无辜”对应的是事，而非时间。你做了“坏”事 A ，针对事情 A ，你就是不无辜，并不是说你只要做了坏事，一辈子就是坏人了。

需要明确的是，即使需要为某件“不无辜”的事情背锅，程序员大多作为执行者，也只需要付小部分责任。我只是想表达，既然参与并从中得利，而且主观已经意识到自己的行为会带来“不好”的影响，那被骂就该受着。

以楼主的例子，从（现有）法律角度讲，不违法，谁都不违法；从道德角度讲，有些人会感觉违背良心（比如我），有些人不会，所以本身就是一个主观的事情。我表达的是我的观点，我的道德律。

举个更严重点的例子，拼夕夕诈骗式助力领钱、美团压缩外卖小哥时间，你要跟我说写代码的程序员不知道会带来什么影响，反正我是不信的。

建议看看那个小品，如果你也是程序员，却没有感觉到 shame ，那我只能无话可说了。

[charlie21]

我是雪花，我就是无辜的！

你自己乐意承担你自己去承担阿，你等于在包庇真正的有辜者：若有人为他承担他的罪责就会减轻，若每个人都为他承担那么他的罪责就无限小，无限小等于再犯无风险 等于帮助再犯罪。

“没有一片雪花是无辜” 会通向哪里呢？
-> 所有雪花都有辜 - 真正有辜的人 罪责降低 - 罪责无限小 - 再犯也没关系，所以 “没有一片雪花是无辜的” 等于帮助真正肇事人开脱 并给了有能力主导再犯的人以继续再犯的动机。 —— 若你倡导 “没有一片雪花 ... ”，那么你和最有辜的那位大鳄所倡导的是一致的，那么最佳嫌疑人就是你

[charlie21]

装可怜 装善良 装得很自我反思的样子，这种人其实是非常值得判一个包庇罪的，正因为说话不负责任的人这么多 所以顺便帮助大鳄开脱的助力也会是这么多。你当然有包庇他人的自由，但至少你真的拿到一点好处之后再选择包庇他吧！否则这种包庇的做法就好像你有什么把柄在对方手上一样

[ch2]

@1350943277 #64 你能写的只有代码，代码作用于数据的权限是你能控制的吗？

[imklay]

《故事 FM 》么，我也听了这期

[zhy91]

有没有责任，要看能不能通过这种“不道德”的行为中获利。
程序员的工资普遍高于其他行业（如果这一点不认同，也没必要看我的回复了），这些工资里面，有没有、有多少是这些邪恶代码带来的？
我认为，如果没有这些代码和各种侵害隐私的行为，互联网行业的利润一定会下降很多（甚至有些公司全靠这些作恶方式赚钱了），虽然大头进了老板手里，但是同时助推了程序员的高收入，也是显然的。
所以，我认为，程序员也是有责任的，责任比例看收入情况。

[Frankcox]

@dunn 有骂程序员的，前几天有人认为仙剑七的战斗机制不合理“程序员在干什么？写完了自己玩过吗”，我指出程序员既不能排版战斗模式，也不能按照自己意愿去修改，他就跟我强调他在英国读什么什么管理专业比我懂得多。。。

[Jooooooooo]

运营说给司机抽成调成 0, 程序员立马就能调.

[cyspy]

程序员只负责给出评分，要求司机和骑手不断提高分数的是产品

[shaohan0228]

相当于生产武器的人吧？

[berchtesgaden]

@Dkngit
@Dkngit 党卫军肯定是要负责的。

[qwertqwert12345]

那必然至少有一半的责任咯

代码只有写出来才能跑

[qwertqwert12345]

感觉可以换成：邪恶的 WallFireGreat ，有多少责任在程序员？

毫无违和，然后再带入自己的答案判断一下

[chengyiqun]

程序员只是按照要求在写代码而已, 本来就不是他自己的意愿写出来的功能. 应该怪产品.
如果是 bug, 怪程序员和测试.

[raptor]

拿了钱就不能说无责，当然谁拿钱多谁责任大

[1350943277]

@ch2
@cyspy
@chengyiqun
程序员的上级也觉得都是他们再上一级的错误，每一层都这么想，那同理的话纳粹是不是只有希特勒有错。所以说诸如互联网企业的野蛮发展只是 gov 出于 GDP 、税收等考虑暂时睁一只眼闭一只眼。

[chengyiqun]

@1350943277 那叫程序员开发一个算法, 如果这个算法被用到不好的地方了, 那么程序员是不是要立刻离职

[1350943277]

@chengyiqun 程序员作恶，明确违反法律自然由法律来惩罚，可惜相关方面现在多是模糊不清的口袋罪。至于良不良心的，也就程序员风头被猝死 /996/35 岁开除盖过去了，要是换成华尔街那帮割韭菜的来立牌坊早就被骂死了。程序员作恶和程序员也是制度异化下的受害者并不矛盾。

[cyspy]

@1350943277 是谁给了你 [屠户是铁匠的上级] 这样的错觉？

[1350943277]

@cyspy 不管是屠夫还是铁匠还是上级领导，都是有自己思想的“人”而不是任人支配的“物”，知道底线在哪里也是对自己的保护。

[1350943277]

@cyspy Google Code of Conduct: And remember… don’t be evil, and if you see something that you think isn’t right – speak up! 如果程序员都是白莲花，google 为什么要放这句？

[nian8]

https://mp.weixin.qq.com/s/Yms7al4Ms42pXR-tS5iYFQ