wadewade's recent timeline updates wadewade's recent timeline updates |
wadewadeV2EX member #646431, joined on 2023-08-31 18:17:16 +08:00 |
| 越来越怀疑，很多 Agent 现在根本进不了企业 AI Agent 智能体 • wadewade • May 29 • Lastly replied by thedog | 22 |
| 为什么我觉得 AI 真正的机会在“数字员工” AI Agent 智能体 • wadewade • May 28 |
| 西安｜ AI Agent / 数字员工 / 企业 AI 工作流架构与交付方向，寻找长期发展机会 求职 • wadewade • May 28 • Lastly replied by wadewade | 14 |
wadewade's recent replies
May 29 Replied to a topic by wadewade › AI Agent 智能体 › 越来越怀疑，很多 Agent 现在根本进不了企业 |
@thedog 模型的能力提升确实会解决很多原来需要工程解决的问题，不过，要解决企业怎么敢让它去执行任务的问题，这个时候就从模型能不能做变成出了问题怎么办。所以我更关注的是 runtime 或者是 harness 这一层，而不是单纯的模型能力。
May 28 Replied to a topic by wadewade › AI Agent 智能体 › 越来越怀疑，很多 Agent 现在根本进不了企业 |
@thedog 这个需要反驳一下，哈哈哈，模型底层就注定了它没办法永远稳定，即使你把温度压到最低，它天然就是进行向量计算预测，如果完全通过模型去预测，可能真的得等到世界模型了，否则现在的模型想要稳定进入企业不太可能。还是需要软件工程去限制它的能力
May 28 Replied to a topic by wadewade › AI Agent 智能体 › 越来越怀疑，很多 Agent 现在根本进不了企业 |
@newaccount 对的呀，肯定需要在关键的节点卡 HITL ，目前的模型能力还无法完全替代人。所以需要构建一套确定性的 Runtime 体系去控制住模型的幻觉
May 28 Replied to a topic by wadewade › AI Agent 智能体 › 越来越怀疑，很多 Agent 现在根本进不了企业 |
@leoliu168 是的，企业不会为充满不确定性的产品付费。
May 28 Replied to a topic by wadewade › AI Agent 智能体 › 越来越怀疑，很多 Agent 现在根本进不了企业 |
@cadl 可以一起探讨一下，我最近就在做这个东西。
May 28 Replied to a topic by wadewade › AI Agent 智能体 › 越来越怀疑，很多 Agent 现在根本进不了企业 |
@thedog 对呀，就目前阶段来说，模型确实很强，但是幻觉也很严重，还是要靠人去构建系统架构才能真正的进入企业级场景
May 28 Replied to a topic by wadewade › AI Agent 智能体 › 越来越怀疑，很多 Agent 现在根本进不了企业 |
@409164 是的，这个评估机制确实可以有。这样可以减少模型幻觉带来的盲目自信，不过还是在关键节点，通过 runtime 限制死，核心的动作必须要人工参与授权。企业落地哪怕只有 1%的概率会出现不可控都是很难接受的，不可控带来的就是损失，那产品的信用也就毁了
May 28 Replied to a topic by wadewade › AI Agent 智能体 › 越来越怀疑，很多 Agent 现在根本进不了企业 |
@JYii 是的，模型虽然强，但是也会发疯，需要控制好它的能力边界。
May 28 Replied to a topic by wadewade › AI Agent 智能体 › 越来越怀疑，很多 Agent 现在根本进不了企业 |
@shakaraka 任何技术初期都有这样的投机者，但是真正能做到落地的人或者公司，未来都会是一个新的持续增长点
May 28 Replied to a topic by layxy › OpenAI › 有时候感觉言出法随比使用 superpowers 更方便快捷 |
个人觉得挺好用的，因为即使是单人开发，有这么个东西，可以开发过程中形成开发历程文档，后续再做功能扩展的时候就有据可依，不然到最后一定会发现，模型一直在给你打补丁，因为你口述需求的时候只能针对某一个功能点，没有开发文档给脑暴提供依据，最后模型就是在按照你口述的需求进行最短路径实现，到最后代码就变成补丁套补丁的屎山。这是不可避免的，虽然比较浪费 tokens ，但是换来的是系统可维护性的开发历程支撑，后续不管你要做局部功能修改，或者功能重构，都会有据可依，个人觉得这在工程角度来说是值得的。
Select Language