niubilewodev 最近的时间轴更新
niubilewodev

niubilewodev

V2EX 第 362044 号会员,加入于 2018-11-09 17:19:15 +08:00
今日活跃度排名 7932
根据 niubilewodev 的设置,主题列表被隐藏
二手交易 相关的信息,包括已关闭的交易,不会被隐藏
niubilewodev 最近回复了
房子可以说跟户口、医疗、教育、一堆东西绑定。
车纯纯的消费品,不保值才是正常的。
32G Mac Mini 跑 32b 的模型很吃力,个人觉得几乎不可用。
32G 只有 24G 的 VRAM ,模型加载完就要接近 20G ,可用上下文少的可怜。
而且 M4 的内存带宽,跑 32b ,预估不足 5 token/s 。
5 天前
回复了 CaHCO3 创建的主题 MacBook Air MacBook air m4 24g 做开发,很烫啊
@CaHCO3 因为苹果想噪音小,觉得 100 度对 CPU 不算烫
8 天前
回复了 cocong 创建的主题 投资 A 股又又又跌了,说好的稳股市呢!
倒车接人
赶紧加仓
9 天前
回复了 kkyypy 创建的主题 生活 关于给丈母娘买手机产生的意见分歧
要考虑老年人的学习成本。
如果真的是一直用苹果,那除非老人说苹果不好用,否则最好还是买苹果。
牛逼。
没有。
99.99%的工作不需要什么算法,我同事要是在项目上自己写算法,我第一个反对。
10 天前
回复了 moudy 创建的主题 Apple Mac Studio 实战 671B 全量大模型成绩出来了
17-18 token/s 在带思考链的模型上,算勉强能用。
就是不知道上下文多了之后,prefill 时间怎么样。
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2644 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 10ms · UTC 06:17 · PVG 14:17 · LAX 23:17 · JFK 02:17
Developed with CodeLauncher
♥ Do have faith in what you're doing.