后续的 AI 有没有可能实现程序自动修复？

[frankbuf]

比如最近的微信扫码问题，AI 监测到将自动进行修复。

[debuggerx]

程序里有个可以随时修改程序自身的 AI ？
真有这样的东西出来，你敢装在自己的手机里？

[kaedeair]

现在的 AI 本质上没有任何逻辑能力

[dethan]

可能会有，但是只会放在测试环境而不是生产环境中。

[cy18]

不要高估当前 AI 的能力，不要低估将来 AI 的能力。

[Ketteiron]

你想说 gpt 的话，可能到 gpt5 也没法实现，因为文本生成模型本质上是没有逻辑能力的，gpt4 展示出来的逻辑推理能力是一个"短暂的幻觉"，而且并不稳定，不能应用在这方面。但是未来会出现这种 AI 是必定的。

[zlhsvc]

能修改自身代码那就能修改任何东西，只要连上网，那不是直接就直接上天了

[way2explore2]

https://github.com/biobootloader/wolverine

没人注意到这个项目吗？使用 gpt3.5 做一个基本的程序修复。

主要在如何定义 “自动”，如果不严谨（较真）的话，这已经做到了。

[JayZXu]

目前来看，根据设置，“自动”是可以实现的，AutoGPT 和 7L 说的就是。
但是目前的 AI 很明显是不具备主观能动性的。

[lisxour]

@JayZXu 还有一个问题，就是目前的 ai （比如 chatgpt ），他给的代码看似一点问题都没有，也很合理，但实际上很多时候就是与实际不贴切的，我试过很多次了，给的代码头头是道，一眼看过去也好像很 ok ，一拷贝过来运行，直接拉跨。

[Kould]

经典停机问题

[LXGMAX]

目前 AI 还无法完成自举

[zhangyichent]

后面肯定能做到。。。我是觉得后面肯定强人工智能会造反。。

[qiyustart]

可以试试体验一下 aotugpt ，目前来说效果不是很好

[muzei233]

听说 openai 将要发布的 auotGPT 就可能做到这样的效果

[tutudou]

ai 怎么会猜到你想要 1 还是想要 2 ，怎么修复？

[codermagefox]

已经可以做到了.V 站同学的网络延迟还是有点高啊...

[M003]

自我修复,自我成长.

水电网.如果都实现自动化...不进行物理隔绝...

如果他是调皮的.社会面基本都乱套了..

就算物理隔离,那派发虚假工单,让操作员将物理隔绝打通...

携水电网 /核弹以令人类..

[voidcomma]

Meta 有在做。

[wonderfulcxm]

失业警告⚠️

[tuchg]

完全可以 让 gpt 生成代码然后拿到这份代码的 IDE 报错信息 让 gpt 自己去搜索修复 最后写入 再验证 如此往复

[mikewang]

微信扫码之类的问题，是非法读造成的崩溃，不一定需要 AI 来解决，某些现有的分析工具就能做到。
如果是不符合用户预期那种类型的问题，AI 修大概也不会很理想，因为我们人类自身有时也不一定能搞清需求具体是什么...

[lv2016]

程序自动修复是一个很大的领域包括语法错误修复、语义错误修复和安全漏洞。语法错误来说，目前做的最好，个人的体验是基本都会修。语义错误也有一些研究，一月份有一篇研究的结果是 chatgpt 与之前最好的深度学习工具表现一致，水平是 19/43 。最后是安全漏洞，知乎上看到有人把这次微信的 bug 喂给 chatgpt ，它也能正确识别这个 bug ，但是问题在于会给出很多无关紧要的 warning 。我之前在语法错误上做过一些工作，体验下来是 chatgpt 完爆以前的所有工作。

[wdlth]

微信扫码这个其实用 fuzzer 就够了，fuzzer 也是启发式的。

[mingl0280]

这是典型的停机问题，哪怕你计算机基础听了一丁点基础就知道，该问题在图灵机上不可判定。
所以 AI 不可能实现完全的程序自动修复。

[ohwind]

@debuggerx 为什么不敢？

[frankbuf]

@tutudou 这时就需要一个决策者，可能是人类。

[frankbuf]

@M003 是的，我觉得发展到这一步，AI 的自主性已经很高了。

[exmario]

有那个能力基本什么都能干出来了，你这辈子肯定看不到