Yserver's recent timeline updates Yserver's recent timeline updates ONLINE |
YserverV2EX member #674684, joined on 2024-02-03 20:57:31 +08:00Today's activity rank 1342 |
| 这些模型的市场容易做吗 程序员 • Yserver • Apr 23 • Lastly replied by Yserver | 3 |
| [送 5 张 Giffgaff 卡] 阿里云折扣账户， 低门槛 ECS 五折 推广 • Yserver • Apr 19 • Lastly replied by whitewash | 61 |
| [送 5 张 Giffgaff 卡] 阿里云大客户折扣账户， ECS 轻松 5 折！
1 推广 • Yserver • Apr 8 • Lastly replied by zemul
|
176 |
| 上海移动互联网专线安装记录 宽带症候群 • Yserver • Jun 28 • Lastly replied by Yserver | 77 |
| 上海移动 Qos 这么严重吗 宽带症候群 • Yserver • Jun 2, 2025 • Lastly replied by fengyaochen | 23 |
| 新版电脑微信聊天记录迁移教程 微信 • Yserver • May 6, 2025 • Lastly replied by wwqm2 | 2 |
| 有没有可能通过 ONU 光模块+自制系统实现一个光猫? 宽带症候群 • Yserver • May 2, 2025 • Lastly replied by Yserver | 32 |
Yserver's recent replies
15h 15m ago Replied to a topic by liulanggoukk › 程序员 › 20 天 2 折国内模型，可在 workbuddy 中使用， 90%的情况稳定，作为补充通道，算不算便宜 |
还比较便宜了
15h 15m ago Replied to a topic by sentinelK › Local LLM › RTX PRO 5000（或其他 48GB 显存）的 Qwen3.8-27B-FP8 配置交流（prefill 5000+t/s， decode 60+t/s） |
@zhaoziling #44 H3 我 48g 的跑 fp8 都好慢
1 day ago Replied to a topic by sentinelK › Local LLM › RTX PRO 5000（或其他 48GB 显存）的 Qwen3.8-27B-FP8 配置交流（prefill 5000+t/s， decode 60+t/s） |
可以参考下 https://docs.sglang.io/cookbook/autoregressive/Qwen/Qwen3.8-27B#deployment 的 Speculative Decoding
1 day ago Replied to a topic by sentinelK › Local LLM › RTX PRO 5000（或其他 48GB 显存）的 Qwen3.8-27B-FP8 配置交流（prefill 5000+t/s， decode 60+t/s） |
我看到 sglang 好像是可以使用 dspark 的 --speculative-algorithm DSPARK 这个应该也会对性能有较大提升吧
1 day ago Replied to a topic by realpg › 程序员 › 今日份的阿里不带云笑话。。踩坑进行时。。 |
@viweei #41 阿里云的费用我觉得还是不会出问题的...他们的计费还是挺详细的
1 day ago Replied to a topic by realpg › 程序员 › 今日份的阿里不带云笑话。。踩坑进行时。。 |
太 amazing 了
2 days ago Replied to a topic by liwei265 › 宽带症候群 › 深圳（广东）移动到企的 pon 专线宽带，是正儿八经的专线吗 |
@qwvy2g #8 pon 我记得也有加密的 就算是没加密 那么让光猫收不属于他的包也有点麻烦
4 days ago Replied to a topic by flyever › 程序员 › 请问在云端部署 AI Agent，是选择国内服务器还是国外服务器？ |
如果是开发的话 建议在国外吧 网络环境会好不少
4 days ago Replied to a topic by majuzhang › Local LLM › 公司本地部署开源模型 |
@shelken #49 确实是这样的嘛？我在网上搜到的大部分数据是 10%左右的性能损失
5 days ago Replied to a topic by burden7 › 程序员 › 大家有推荐的去 AI 味 skill 吗 |
@zhuanggu #4 xhs 真的管 AI 吗 我看一堆垃圾贴
Select Language