• 请不要在回答技术问题时复制粘贴 AI 生成的内容

提示词

需要一个 svg 动画页面， 内容为一只鹈鹕骑自行车。要求：
- 鹈鹕生动形象
- 关节运动要自然、不生硬

除了 Deepseek 网页版，其他都是用 Deepseek Harness.

Qwen 模型均来自 unsloth

模型	缓存量化(ctk:ctv)	耗时	轮数	平均输出速度 t/s	缓存命中率%	总输入	总输出	预览	费用(元)
Deepseek 网页	-	12 分 32 秒	2	-	-	-	-	https://dspage.previewship.net/	0
Deepseek Flash	-	38 分 27 秒	1	123	99	11.9M	266K	https://dsflash.previewship.net/	1.93
Qwen3.8 27B Q5_K_M	q8_0:q4_0	5 分 52 秒	1	77	98	95.5K	26.5K	https://q5kmq8q4.previewship.net/	0.02
Qwen3.8 27B Q5_K_M	q8_0:q8_0	23 分 20 秒	1	69	98	818K	111K	https://q5kmq8q8.previewship.net/	0.09
Qwen3.8 27B Q4_K_M	q8_0:q8_0	16 分 13 秒	1	63	94	631K	67.7K	https://q4kmq8q8.previewship.net/	0.06
Qwe3.8 27B UD_Q4_K_XL	q8_0:q8_0	16 分 59 秒	1	58	94	131K	57.8K	https://udq4kxlq8q8.previewship.net/	0.06

电费按 0.5 元/度计算

提示词语义比较模糊，所以思考时长会多一些

本地环境

硬件：7900xtx

系统：ubuntu 26.04

软件: llama.cpp + vulkan

更喜欢哪一个结果?

Supplement 1 · Aug 23

Qwen3.8 27B 的模板会导致过度思考且容易陷入思考循环，用这个模板速度会快很多，tokens 消耗也更少。

https://huggingface.co/froggeric/Qwen-Fixed-Chat-Templates

模型

对比

性能

33 replies • 2026-08-22 12:34:38 +08:00

woodfizky

Aug 21

dsflash 怎么是倒着蹬啊（恼
而且自作主张给你加了倍速调节。。

towser

Aug 21

看起来 27b 运行的还可以，超过我的预期

ashong

Aug 21

@woodfizky 迷惑啊，等谷期再用 Pro 版试一下

sentinelK

Aug 21

这种纯视觉效果的 deepseek 吃了没视觉能力的亏，没法重复验证。
我的实际运行体验，确实 qwen3.8-27B 至少是能生产的。只是 256k 上下文稍短。

如果不是要跑 Minimax H3 总是倒腾显存，我就让 sglang+27B-fp8 常驻显存了

1258

Aug 21

flash 想的太多了吧

ashong

Aug 21

@towser 能力可以，配合 dsh 比 opencode 效果好一些

yagamil

Aug 21

运行起来 A 卡和 N 卡去吧大吗？
是不是只要显存大就行了？

ashong

Aug 21

@sentinelK 模型不支持，harness 自动下载安装了 pillow 截图，对比像素，其实之所以用了这么长时间就是验证耗时太长，实际生成也就 10 分钟, 后续的验证修改了个寂寞

ashong

Aug 21

@yagamil 没 N 卡，只有一张 7900xtx ，显存肯定越大越好

sentinelK

Aug 21

@ashong 有种说法是说，多模态模型对于视觉的理解，和第三方理解并文字化后输入，理解程度是指数级别的差距，但是不太懂这块，所以不敢下结论。

我的体感上确实多模态模型对于图片的认知会更好。比如我用 qwen3.8-27B 去给 H3 理解图片素材并喂提示词，效果远强于纯文本模型。

sentinelK

Aug 21

@yagamil 可以参照我的经验帖： https://www.v2ex.com/t/1235518

wjxd

Aug 21

@ashong 我的是 7900xt ，昨天也试了这个 qwen3.8 ud q4 k m 的版本，你是用什么加载模型？是 window 环境还是 linux 环境啊？

wjxd

Aug 21

@ashong 忽略。我没仔细看帖子最后。。。

Seanfuck

Aug 21

最后一个好。Qwen 明显比 Deepseek 强。

honjow

Aug 21

同 7900xtx 。op 感觉用哪个量化最均衡啊

coefu

Aug 21

鹈鹕很 Q 。

xuhengjs

Aug 21

要不，用 deepseek 最新的 flash-vision-exp 试试？

ashong

Aug 21

@honjow Q5_K_M

jhytxy

Aug 21

建议量化模型至少还是用到 q6

q5 离原版差的比较远

honjow

Aug 21

@ashong #18 上下文能开多少啊。我试了很多次都达不到 77tps 这个速度

ByteZone

Aug 21

48GB 的 mac mini 跑 QWen 3.6 27B 做 rag 慢的要是
硅基流动一到两分钟本地 ollama 要 10 到 60 分钟不等
大佬知道问题出在哪里了吗

ashong

Aug 21

@honjow

启动参数供参考：

-t 10
-b 512
-ub 256
--spec-draft-n-max 3
--fit off
--no-context-shift
--metrics
--kv-unified
--jinja
--cache-type-k q8_0
--cache-type-v q8_0
-fa on
--spec-type draft-mtp
--ctx-size 131072
--parallel 1
-ngl -1
--chat-template-kwargs {"enable_thinking": true, "preserve_think": false, "reasoning_effort": "medium"}
--no-mmap
--temp 0.6
--top-p 0.6
--top-k 15
--repeat-penalty 1
--repeat-last-n 64
--override-tensor blk\.\d+\.ffn_.*_exps\.=CPU
--image-min-tokens 1024
--no-warmup -
-cache-ram 16384
--alias qwen3.8-27b-q5km