drafter's recent timeline updates
drafter

drafter

V2EX member #431084, joined on 2019-07-22 13:17:56 +08:00
drafter's recent replies
@dryadent 打联通官方电话跟客服说就好了,我是说我这个价格 联通的新套餐送了流量很多,还没说要不送我就换网的话,客服就直接说每个月送流量了,我的卡用了七八年
我也是 36 元大宝卡,+3 元,每月 39 元 赠送上海 100M 宽带,打电话给客服又让每个月送 70G 通用流量,送了一年多了
我是毕业后 手机一直是静音的,也没有震动,现在靠 watch 提醒,一般本城市的号码看到了会接,其他一律不接,毕业 8 年了
税后 67%,重庆公积金可有可无,今年开始贷的,10 年,提前还了一些还有 7 年还完,不过因为还有商铺收租,所以还好
不是按照 promot 次数计算的吗
May 10
Replied to a topic by davidyin Local LLM 想折腾一个 AI 主机,请行家出手
@davidyin 对的 https://benchlm.ai/coding 可以看这个模型 coding 能力排行榜,Qwen3.6-27B 排名 19 ,比很多的收费模型都强,但是这个量化版也要 24G 显存以上才行,4090 ,5090 太贵,3090 矿卡风险高,Qwen3.6-35B-A3B 排名 30 ,基本上觉得大多工作都能做,我上午开始试的,效果可以,至少做同样的事比 minimax 2.7 显得专业很多,还是稀疏模型,一些权重可以放内存里,但是推理慢,这个很关键,同样的问题 trae 里的 minimax 2.7 大该 1 分钟,这个模型我用 claude 大概 11 分钟。。。 反正未来 20B ,30B 模型 在消费级显卡上的效果应该会越来越好,可以观望下
May 10
Replied to a topic by davidyin Local LLM 想折腾一个 AI 主机,请行家出手
昨天刚买的主机 跟你一样,5060ti 16G 显存 +96G 内存,270kcpu ,场景家里主机挂着,公司电脑通过 tailScale 连接 跑 qwen3.6-35B-A3B ,开启思考模式会比较慢,跟官方 api 比,3 ~ 5 分钟吧,我后面把思考模型关了会快点,但是像一个小的项目用 claude 进行/init 要处理 10 多分钟,如果非编程 用 Lm studio 对话框对话很快 ,输出 40t/s ,还在研究怎么在 coding 下推理速度加快
部署什么模型 多少速度啊?我本地也想部署个 27B 的
天才程序员的陨落
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2758 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 17ms · UTC 13:26 · PVG 21:26 · LAX 06:26 · JFK 09:26
♥ Do have faith in what you're doing.