V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
lagoon
V2EX  ›  程序员

邪恶的算法,有多少责任在程序员?

  •  
  •   lagoon · 42 天前 · 9600 次点击
    这是一个创建于 42 天前的主题,其中的信息可能已经有所发展或是发生改变。

    早上听播客,叫“逗逗程序员”,说的是网约车司机困于算法,想办法逻辑突破,开玩笑叫“逗逗程序员”。

    我在想,这类算法,有多少责任是程序员的?
    为什么不叫“逗逗产品”、“逗逗运营”、“逗逗领导”。

    没写过高深的东西,目前写过的号称“算法”的低端逻辑代码,无非是用某种方式把产品的逻辑实现一下,我这种程序员,只能算军工厂的工人。

    不知道大厂那些负责的算法,程序员发挥了多少。主要责任,是不是应该是程序员的。

    87 条回复    2021-12-10 22:48:06 +08:00
    janus77
        1
    janus77  
       42 天前   ❤️ 18
    因为制作播客的人很多都是产品思维,实际上相当于产品把握了播客的话语权,所以题目当然不能说逗逗产品了
    Building
        2
    Building  
       42 天前 via iPhone   ❤️ 5
    程序员只对测试负责,产品经理和测试对用户负责
    jmc891205
        3
    jmc891205  
       42 天前 via iPhone
    因为程序员这个称呼出圈了。。。对圈外人来说 跟软件相关的职位通通是程序员
    JamesR
        4
    JamesR  
       42 天前   ❤️ 11
    50%吧,博彩网站抓人时候,程序员也抓的。
    gengchun
        5
    gengchun  
       42 天前
    你怎么定义程序员?

    人家认为在大厂工作的就叫程序员。根本不知道什么是产品、经理、运维。所有与电子科技有关系的都叫程序员。

    程序员已经是一个过于泛化的概念。
    zpxshl
        6
    zpxshl  
       42 天前 via Android   ❤️ 2
    裁员的时候多少人骂 hr...
    eason1874
        7
    eason1874  
       42 天前   ❤️ 45
    这叫社会原子化。就是那句名言:雪崩中,没有一片雪花觉得自己有责任

    现在执行死刑也用这个原理,整个过程分几个步骤,每个步骤分不同人去执行,关键步骤同时让几个人去执行

    高度分工之后,能让人的罪恶感大大降低,每一个人都能安慰自己说不是自己杀的人
    Leonard
        8
    Leonard  
       42 天前
    因为普通人只知道程序员,不知道产品
    dddd1919
        9
    dddd1919  
       42 天前
    没有一片雪花是无辜的
    echo1937
        10
    echo1937  
       42 天前
    对行外人员而言,所有的软件开发部门的员工都统一叫“程序员”。
    woodensail
        11
    woodensail  
       42 天前
    众所周知,产品归属于研发体系,算是广义的程序员,完。
    belin520
        12
    belin520  
       42 天前 via iPhone
    策略产品经理
    程序员都是实现,并没有完全参与设计
    ohmycorolla
        13
    ohmycorolla  
       42 天前
    值得深思的问题
    bengcaca
        14
    bengcaca  
       42 天前   ❤️ 16
    既然吃的是带血的馒头,就别说自己是无辜的。技术确实无罪,但是落实技术用于现实的人,就别当了婊子还立牌坊了。

    我也是技术,前些天看了个小品《互联网体检》,极其写实,又极其讽刺,身为技术,一点也笑不出来,砖是我们自己一块一块垒上去的。

    别推锅给 pm ,也别推锅给 manager 、市场,当然他们肯定也不会是无辜的,一丘之貉罢了。既然赚了这个钱,挨打就得立正。

    若是自己开公司的话,第一条规矩就是“不为恶”,希望有落实的一天。
    Dkngit
        15
    Dkngit  
       42 天前
    所以二战德军基层普通大兵,是否要为纳粹的罪恶负责吗?
    coderluan
        16
    coderluan  
       42 天前
    肯定是有责任的,但是离用户越近责任越大,程序的责任基本上是最小的那一波,司机说程序员只是他不了解分工而已,而且实际上我们并没有办法让任何人负什么责,毕竟法律并没有把邪恶定义成违法,被邪恶所困的人一般最开始也受到了邪恶的诱惑。
    cairnechen
        17
    cairnechen  
       42 天前
    反正算不上无辜,基本上不存在写代码的时候不知道这些代码是用来干嘛的情况
    Leviathann
        18
    Leviathann  
       42 天前
    毕竟是拿了工资的,也不能说完全无辜把
    hidemyself
        19
    hidemyself  
       42 天前   ❤️ 1
    肯定有责任啊,你写代码不知道自己这段代码实现出来是什么效果,不知道是用来干什么的吗?
    当然主要责任肯定不是程序员的
    murmur
        20
    murmur  
       42 天前   ❤️ 1
    算法是没问题的,决策者才是地主,算法说 10 分钟可以送到,决策者就让他显示 7 分钟,压榨你 3 分钟
    wangtian2020
        21
    wangtian2020  
       42 天前   ❤️ 1
    当然有责任
    老板让你给程序加上自动更新,不立即辞职的都是罪大恶极!
    老板让你给程序加个广告,不立即辞职的都是罪大恶极!
    kop1989
        22
    kop1989  
       42 天前
    首先,之所以叫“xx 程序员”,是因为“程序员”这个称呼是个统称。
    外行把程序员定义为:与软件设计,开发,运营相关的人。

    其次,我并不认为这种有悖于生产效率的产品逻辑有问题,换句话说,我不认为这件事应该形容为“责任”,更应该称之为“效果”。既程序员在呈现这个“效果”上,有多少功劳。因为开发、产品、运营最终的责任都是为公司提供最大的经济利益。仅此而已。

    如果非要归咎一个人 /集体的话,应该归咎于资本和市场经济。
    madlifer
        23
    madlifer  
       42 天前
    众所周知,PM 也只是个打工者,定不了这种关键事项,这事儿主责肯定是资本家啊
    libook
        24
    libook  
       42 天前   ❤️ 5
    法律规定清楚了每种事情的责任主体,作为公司业务来说责任主体从来都是公司而不是员工,这也正是“公司法人”这一概念存在的意义,如果法律上为网约车公司写邪恶算法本身不违法,也不算协助网约车公司违法,那么作为员工的程序员就不负任何责任。

    如果非结构性地归因,这个问题会变得失控,比如:
    靠邪恶算法赚钱,有多少责任在网约车公司老板;
    缺乏对邪恶的算法的管控,有多少责任在国家;
    容忍邪恶的算法,有多少责任在网约车司机;
    默许邪恶的算法,有多少责任在乘客;
    支撑邪恶算法的运行,有多少责任在网络运营商
    ……

    当然,道德绑架和网暴的时候都是自己怎么爽怎么来。
    nicebird
        25
    nicebird  
       42 天前
    类似的问题,战争有多少怪具体的士兵。战争审判判谁?
    p2pCoder
        26
    p2pCoder  
       42 天前
    这就得说出算法工程师群体中里那句经典的话了
    机制设计 yyds
    rm0gang0rf
        27
    rm0gang0rf  
       42 天前
    现在楼房质量不行,能把责任放到工人身上吗???
    2i2Re2PLMaDnghL
        28
    2i2Re2PLMaDnghL  
       42 天前
    《计算机程序的构造和解释》

    教师、将军、营养师、心理学家、父母编程。军人、学生和社会被编程。
    gstqc
        29
    gstqc  
       42 天前   ❤️ 2
    推荐一本书吧
    《艾希曼在耶路撒冷:一份关于平庸的恶的报告》
    mosfet
        30
    mosfet  
       42 天前
    那些搞菠菜的,不都是一锅端吗
    gstqc
        31
    gstqc  
       42 天前   ❤️ 1
    讨论楼主提的问题

    目前,涉及网约车、送餐员的算法,大体上在法律层面上合法的。严格来说,这不算违法更不是犯罪。

    但这对社会来说,却是一种恶。
    以详尽的数据,加上精密的算法,获得了和一个群体完全不对称的优势,并借助这种优势从这个群体上获取更多的利益。
    这部分,程序员必定是有责任的,但最多只能算道义上的责任。

    企业应当承担相当一部分的责任。
    而某些不可描述的事物,则应承担大部分责任。他们剥夺了人的权力,让这些人在竞争中处于非常不利的境地,几乎没有协商、谈判和反抗的手段。
    littiefish
        32
    littiefish  
       42 天前 via iPhone
    @Building 没有一片雪花是无辜的
    starsky007
        33
    starsky007  
       41 天前
    部分法律责任,参考博彩、爬虫等案例。不想承担责任,可以找工作时不选择这样的公司、不接受这样的工作任务。
    heganyuliang
        34
    heganyuliang  
       41 天前 via Android
    前一句话还在平庸之恶,后一句话就马上把恶都推到利维坦身上去,自己只肯承担“道义上的责任”,属实精彩
    wangkun025
        35
    wangkun025  
       41 天前
    我倾向于程序员不是无辜的。
    ch2
        36
    ch2  
       41 天前
    @cairnechen #17 你写个模板,数值是别人填的,你也有错吗
    cairnechen
        37
    cairnechen  
       41 天前
    @ch2

    你可以去问问菠菜网站被抓的程序员
    muooOOO
        38
    muooOOO  
       41 天前 via Android   ❤️ 4
    滋养出这么一个邪恶的怪胎,如果把责任归咎程序员的话,那么开车的司机是不是也在做恶?司机是收了钱的,坐车的乘客是不是在作恶?乘客享受了便利,纵容这个怪胎的人是不是在作恶?毕竟提供了大量税收,整个社会是不是都在作恶?
    xxfye
        39
    xxfye  
       41 天前 via Android
    比如说像网约车外卖这些算法是邪恶吗?只不过将社会的分工更加明确,更加流水线,本质上提高了社会劳动效率,甚至和机器代替工人本质上没有什么不同,所以这这并不邪恶。
    dawn009
        40
    dawn009  
       41 天前
    @heganyuliang #34 “平庸之恶”本身说的就是“道义上的责任”
    dunn
        41
    dunn  
       41 天前 via iPhone   ❤️ 3
    游戏玩家就是明事理 出事知道骂策划 骂马化腾 很少听说玩家骂程序员
    dawn009
        42
    dawn009  
       41 天前
    @bengcaca #14 以这个对“无辜”的定义,在社会中找不出任何一个无辜的人。依此逻辑,自己想打谁就可以打谁,同时自己被谁打都得立正。岂不荒谬。
    ZRS
        43
    ZRS  
       41 天前   ❤️ 1
    @muooOOO 是的 这就是常说的互害社会
    iugo
        44
    iugo  
       41 天前   ❤️ 1
    这个播客可能是 声东击西 前几天的节目. https://etw.fm/190
    jerryjhou
        45
    jerryjhou  
       41 天前 via Android
    @xxfye “剥夺 human being 的自主性”被很多人认为是邪恶的。善恶是价值观的一部分,“机器替代人类”被某些人认为邪恶你不知道吗?这可以叫 Dehumanization 或 Objectification
    onionKnight888
        46
    onionKnight888  
       41 天前
    声东击西 第 83 期
    gstqc
        47
    gstqc  
       41 天前 via Android
    博彩和网约车开发两码事
    一个是犯罪(按属人或属地的执法权),一个是合法的商业
    dawn009
        48
    dawn009  
       41 天前
    @jerryjhou 同样也有很多人认为物化并不邪恶,而且正相反,反对物化才是邪恶的。
    Eiden
        49
    Eiden  
       41 天前
    众所周知, 代码并不体现程序猿意志
    jerryjhou
        50
    jerryjhou  
       41 天前 via Android
    @dawn009 我也是技术主义者。在保守派占据世界主流的今天,反对物化是 zzzq 。进步派也热衷一些浅薄的 agenda ,(在很多领域)比保守派还反物化
    yaphets666
        51
    yaphets666  
       41 天前
    革命不彻底就这种结果
    zooeymango
        52
    zooeymango  
       41 天前
    部分责任吧,这个部分来源于 coder 有选择不写邪恶程序的能力而没有做出选择,当然主要责任还是在决策人
    Paaranoia
        53
    Paaranoia  
       41 天前
    矛盾转移?
    irobbin
        54
    irobbin  
       41 天前   ❤️ 1
    游戏行业就不一样,游戏玩法一旦出现不好的变动,玩家一般是问候游戏策划而不是程序员( bug 另算)
    murmur
        55
    murmur  
       41 天前
    @Dkngit 那得看他们是被谁抓住的,是被苏联还是被美国

    现在不是不允许挂路灯么
    KeeneSun
        56
    KeeneSun  
       41 天前
    哎呀
    ch2
        57
    ch2  
       41 天前
    @cairnechen #37 一把刀既可以切菜也可以杀人,卖给杀人的赚的多,卖给切菜的赚的少,你不跟杀人的合作会有什么错?
    wingor2015
        58
    wingor2015  
       41 天前
    有没有责任跟警察叔叔说吧,看看互联网公司全锅端的时候判决书就知道了
    adoal
        59
    adoal  
       41 天前
    程序员在互联网公司做的恶里占多少责任是一回事,媒体拿程序员捏软柿子是另一回事。
    fox0001
        60
    fox0001  
       41 天前 via Android
    确实是个值得深思的问题。就是饭碗和良心,你选择哪个?就像战争一样,你是听从军令,还是选择做逃兵?
    lakehylia
        61
    lakehylia  
       41 天前
    即使是 p2p ,程序员承担的后果也仅仅是把工资还给经帧人员罢了。网约车这都不算事。菠菜那种确实是会入罪,因为菠菜被定义为非法了,明知非法还提供工具,那就是刑事犯罪了。
    guanhui07
        62
    guanhui07  
       41 天前
    值得深思的问题
    zcjfesky
        63
    zcjfesky  
       41 天前 via Android   ❤️ 1
    一个播客标题把你们上纲上线成这样了。
    就是起名字的时候想了个有争议性的标题抢眼球而已。

    你看,人家这不就成功了。
    UC 新闻部发来贺电哈
    noNOno
        64
    noNOno  
       41 天前
    😒
    erwin1030
        65
    erwin1030  
       41 天前
    有意思,原先矛盾是 用户和服务者,现在居然到用户和打工人身上了,而平台和资本确在矛盾之外。
    1350943277
        66
    1350943277  
       41 天前 via iPhone   ❤️ 1
    @ch2 写程序的目的性和逻辑性是很强的,就像买菜刀的人清楚地知道大部分菜刀是用来做菜的,写杀熟 /压榨等等作恶代码的程序员也清楚地知道代码背后的意义。
    bengcaca
        67
    bengcaca  
       41 天前
    @dawn009 这个“无辜”对应的是良心,是道德,并不是法律,是一个主观概念(为做对应,暂且认为法律是客观的)。而且“无辜”对应的是事,而非时间。你做了“坏”事 A ,针对事情 A ,你就是不无辜,并不是说你只要做了坏事,一辈子就是坏人了。

    需要明确的是,即使需要为某件“不无辜”的事情背锅,程序员大多作为执行者,也只需要付小部分责任。我只是想表达,既然参与并从中得利,而且主观已经意识到自己的行为会带来“不好”的影响,那被骂就该受着。

    以楼主的例子,从(现有)法律角度讲,不违法,谁都不违法;从道德角度讲,有些人会感觉违背良心(比如我),有些人不会,所以本身就是一个主观的事情。我表达的是我的观点,我的道德律。

    举个更严重点的例子,拼夕夕诈骗式助力领钱、美团压缩外卖小哥时间,你要跟我说写代码的程序员不知道会带来什么影响,反正我是不信的。

    建议看看那个小品,如果你也是程序员,却没有感觉到 shame ,那我只能无话可说了。
    charlie21
        68
    charlie21  
       41 天前 via iPhone
    我是雪花,我就是无辜的!

    你自己乐意承担你自己去承担阿,你等于在包庇真正的有辜者:若有人为他承担他的罪责就会减轻,若每个人都为他承担那么他的罪责就无限小,无限小等于再犯无风险 等于帮助再犯罪。

    “没有一片雪花是无辜” 会通向哪里呢?
    -> 所有雪花都有辜 - 真正有辜的人 罪责降低 - 罪责无限小 - 再犯也没关系,所以 “没有一片雪花是无辜的” 等于帮助真正肇事人开脱 并给了有能力主导再犯的人以继续再犯的动机。 —— 若你倡导 “没有一片雪花 ... ”,那么你和最有辜的那位大鳄所倡导的是一致的,那么最佳嫌疑人就是你
    charlie21
        69
    charlie21  
       41 天前 via iPhone
    装可怜 装善良 装得很自我反思的样子,这种人其实是非常值得判一个包庇罪的,正因为说话不负责任的人这么多 所以顺便帮助大鳄开脱的助力也会是这么多。你当然有包庇他人的自由,但至少你真的拿到一点好处之后再选择包庇他吧!否则这种包庇的做法就好像你有什么把柄在对方手上一样
    ch2
        70
    ch2  
       41 天前
    @1350943277 #64 你能写的只有代码,代码作用于数据的权限是你能控制的吗?
    imklay
        71
    imklay  
       41 天前
    《故事 FM 》么,我也听了这期
    zhy91
        72
    zhy91  
       41 天前   ❤️ 1
    有没有责任,要看能不能通过这种“不道德”的行为中获利。
    程序员的工资普遍高于其他行业(如果这一点不认同,也没必要看我的回复了),这些工资里面,有没有、有多少是这些邪恶代码带来的?
    我认为,如果没有这些代码和各种侵害隐私的行为,互联网行业的利润一定会下降很多(甚至有些公司全靠这些作恶方式赚钱了),虽然大头进了老板手里,但是同时助推了程序员的高收入,也是显然的。
    所以,我认为,程序员也是有责任的,责任比例看收入情况。
    Frankcox
        73
    Frankcox  
       41 天前
    @dunn 有骂程序员的,前几天有人认为仙剑七的战斗机制不合理“程序员在干什么?写完了自己玩过吗”,我指出程序员既不能排版战斗模式,也不能按照自己意愿去修改,他就跟我强调他在英国读什么什么管理专业比我懂得多。。。
    Jooooooooo
        74
    Jooooooooo  
       41 天前
    运营说给司机抽成调成 0, 程序员立马就能调.
    cyspy
        75
    cyspy  
       41 天前
    程序员只负责给出评分,要求司机和骑手不断提高分数的是产品
    shaohan0228
        76
    shaohan0228  
       41 天前
    相当于生产武器的人吧?
    berchtesgaden
        77
    berchtesgaden  
       41 天前 via iPhone   ❤️ 1
    @Dkngit
    @Dkngit 党卫军肯定是要负责的。
    qwertqwert12345
        78
    qwertqwert12345  
       41 天前
    那必然至少有一半的责任咯

    代码只有写出来才能跑
    qwertqwert12345
        79
    qwertqwert12345  
       41 天前
    感觉可以换成:邪恶的 WallFireGreat ,有多少责任在程序员?

    毫无违和,然后再带入自己的答案判断一下
    chengyiqun
        80
    chengyiqun  
       40 天前
    程序员只是按照要求在写代码而已, 本来就不是他自己的意愿写出来的功能. 应该怪产品.
    如果是 bug, 怪程序员和测试.
    raptor
        81
    raptor  
       40 天前
    拿了钱就不能说无责,当然谁拿钱多谁责任大
    1350943277
        82
    1350943277  
       39 天前
    @ch2
    @cyspy
    @chengyiqun
    程序员的上级也觉得都是他们再上一级的错误,每一层都这么想,那同理的话纳粹是不是只有希特勒有错。所以说诸如互联网企业的野蛮发展只是 gov 出于 GDP 、税收等考虑暂时睁一只眼闭一只眼。
    chengyiqun
        83
    chengyiqun  
       39 天前
    @1350943277 那叫程序员开发一个算法, 如果这个算法被用到不好的地方了, 那么程序员是不是要立刻离职
    1350943277
        84
    1350943277  
       39 天前 via iPhone
    @chengyiqun 程序员作恶,明确违反法律自然由法律来惩罚,可惜相关方面现在多是模糊不清的口袋罪。至于良不良心的,也就程序员风头被猝死 /996/35 岁开除盖过去了,要是换成华尔街那帮割韭菜的来立牌坊早就被骂死了。程序员作恶和程序员也是制度异化下的受害者并不矛盾。
    cyspy
        85
    cyspy  
       38 天前
    @1350943277 是谁给了你 [屠户是铁匠的上级] 这样的错觉?
    1350943277
        86
    1350943277  
       38 天前
    @cyspy 不管是屠夫还是铁匠还是上级领导,都是有自己思想的“人”而不是任人支配的“物”,知道底线在哪里也是对自己的保护。
    1350943277
        87
    1350943277  
       38 天前
    @cyspy Google Code of Conduct: And remember… don’t be evil, and if you see something that you think isn’t right – speak up! 如果程序员都是白莲花,google 为什么要放这句?
    关于   ·   帮助文档   ·   API   ·   FAQ   ·   我们的愿景   ·   广告投放   ·   感谢   ·   实用小工具   ·   4079 人在线   最高记录 5497   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 48ms · UTC 03:50 · PVG 11:50 · LAX 19:50 · JFK 22:50
    ♥ Do have faith in what you're doing.