V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  h4ckm310n  ›  全部回复第 1 页 / 共 2 页
回复总数  21
1  2  
10 天前
回复了 crocoBaby 创建的主题 Local LLM 折腾了一晚上大模型,索然无味
@crocoBaby 只要参数量够大(起码上百 B ),Q2 用着还是可以的。AI 生成的图片可以上国内的 liblib 或国外的 civitai 看
10 天前
回复了 crocoBaby 创建的主题 Local LLM 折腾了一晚上大模型,索然无味
我玩了快一年了,就是拿来涩涩的。
一开始用我游戏本的 3060 跑,但只有 6G 显存,跑个 12B Q4 都慢死。
后来用平时上班用的 macbook pro 来跑,32G 内存能跑 14B Q8 了。但是 mac 也只是生成阶段速度可以,处理输入还是慢,拿来玩画图也慢。
618 的时候自己组了一个台式机,4060ti 16G+5060ti 16G ,再加上 96G 内存,纯显卡的话可以跑 32B Q6 左右,加上内存可以跑更大的 MoE 模型。目前我主要用的模型就是 Qwen3 235B 2507 Q2 ,算是我本地能跑的最大的模型了。除了 LLM ,还可以玩画图,5060ti 跑 SDXL 速度比 macbook 快多了,但是跑 Wan 或者 Qwen Image 这样更大的模型还是慢。
180 天前
回复了 h4ckm310n 创建的主题 NAS 在考虑给自组的 NAS 加一个 4060ti 玩 AI
@charles0 尝试了 autodl ,感觉还不错,就是使用的时候总有一种争分夺秒的感觉,不能像本地那样从容地玩,虽然主要还是我心态原因。11G 的 flux fp8 量化模型上传上去大概要半小时,无卡模式下上传慢点也还好,后来网上查了下发现这个速度已经算是快的了,如果遇到高峰期不知道要等多久。先这么用着吧,显卡我继续慢慢蹲好价的
185 天前
回复了 h4ckm310n 创建的主题 NAS 在考虑给自组的 NAS 加一个 4060ti 玩 AI
@chenbin36255 就 AI 画图来说,线上平台没法画涩图
283 天前
回复了 mrleft 创建的主题 Local LLM ollama 如何手动下载模型?
@mrleft ollama 就是会越下越慢的,ctrl+c 然后再接着下,速度就又上去了,下次再慢下来就也是 ctrl+c 再继续
我去年体重 150 斤左右,当时体检中度脂肪肝,现在减到了 120+不知道还有没有
2024-09-06 15:37:57 +08:00
回复了 basncy 创建的主题 Android Android 有哪些 root 后才有的神奇功能?
1. https 抓包
2. QQ 防撤回
3. 备份应用数据(访问 data 目录)
4. 绕过某些 app 的截图限制

这些是我比较常用的
2024-08-01 14:14:26 +08:00
回复了 NoCash 创建的主题 职场话题 如何看待自带设备上班?
我倒是没有这种情况,现在的公司给的设备我还是比较满意的,但假如我不满意的话我也会自己买,毕竟东西是自己的,离职了也会带走,所以也不亏
2024-05-17 17:54:10 +08:00
回复了 bokey 创建的主题 生活 8090 后的各位,你们现在会给自己购买玩具吗?
手办的话,我有一堆,主要是奥特曼和假面骑士,以及少量的龙珠、高达等,在上面投入了起码上万块钱,我还专门建了一个 wordpress 用来展示我的手办照片
2024-05-07 10:49:34 +08:00
回复了 badgate 创建的主题 NAS 用树莓派组 nas,可以吗?
我以前弄过类似的,用香橙派 3 外接一个双盘位的硬盘盒做 NAS ,系统是 Armbian
@xuwu Z390 芯片组不支持 ECC 的,要上 ECC 得用 C246 的主板
@wheat0r TDP 没啥参考意义,实际待机没那么高
2023-12-27 17:15:40 +08:00
回复了 helleon 创建的主题 NAS 有没有主机和硬盘分开的 NAS 方案?
JMB585 ,m2 转 5 个 sata
2023-11-15 10:05:45 +08:00
回复了 h4ckm310n 创建的主题 NAS 有没有什么不要求格式化旧硬盘(Ext4)的 NAS 系统?
@lovelylain 不太了解这两种文件系统,也可以试试
2023-11-15 10:04:38 +08:00
回复了 h4ckm310n 创建的主题 NAS 有没有什么不要求格式化旧硬盘(Ext4)的 NAS 系统?
@kingjpa 没办法,之前是在校,不方便装机
2023-11-14 20:08:56 +08:00
回复了 h4ckm310n 创建的主题 NAS 有没有什么不要求格式化旧硬盘(Ext4)的 NAS 系统?
@LxnChan 太难了,那我还不如直接用 Ubuntu 然后手动配置
2023-11-14 07:09:31 +08:00
回复了 h4ckm310n 创建的主题 杭州 杭州余杭梦想小镇附近租房的问题
@geekerit 好的,先短租确实也是一个不错的选择
2023-11-13 15:22:12 +08:00
回复了 h4ckm310n 创建的主题 杭州 杭州余杭梦想小镇附近租房的问题
@popn74 怎么说,是那边房子不好嘛
2023-10-07 18:00:47 +08:00
回复了 h4ckm310n 创建的主题 分享创造 整了个新活,一个安卓 Socks5 服务端 app
@HangoX 但是 Clash 好像在 WiFi 和移动数据都打开的情况下只能走 WiFi 吧
2023-10-06 13:07:02 +08:00
回复了 h4ckm310n 创建的主题 分享创造 整了个新活,一个安卓 Socks5 服务端 app
话说我刚才遇到一个诡异的现象……这个 app 我自己也用了好些天了,虽然也时不时有些问题,但基本还是能用的,但今天不知道为啥,在 wifi 打开的情况下就获取不到 4G 的 Network 了,重启也不行……正在 debug 中
1  2  
关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   5140 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 34ms · UTC 01:27 · PVG 09:27 · LAX 17:27 · JFK 20:27
♥ Do have faith in what you're doing.