GeruzoniAnsasu 最近的时间轴更新
GeruzoniAnsasu

GeruzoniAnsasu

V2EX 第 153649 号会员,加入于 2015-12-31 11:52:50 +08:00
根据 GeruzoniAnsasu 的设置,主题列表只有在你登录之后才可查看
二手交易 相关的信息,包括已关闭的交易,不会被隐藏
GeruzoniAnsasu 最近回复了
想问问楼上的推荐哪个能解决这个问题:

RAG 只能 embed 知识库「内」的知识,但不能 embed 关于知识库「本身」的知识 —— 嵌入 10 条 A 知识后 LLM 能查询 N(N<10) 条最接近 A 知识向量的内容,但无法回答「关于 A 的知识量有多少」
20 小时 2 分钟前
回复了 superdotcom 创建的主题 问与答 想去考个全国计算机等级证书,难吗?
不如软考
计算机等级考试是给非专业人士的证,软考是给软件相关专业人士的证
当小弟的方式:
老大,我们下一步怎么做?

当老大的方式:
你们一人出个方案,有方案之后我们评选一个最优秀的决定下一步怎么做。


引导合适的人,向你设想的方向,充分发挥他的特长
7 天前
回复了 woxiqingxian 创建的主题 美酒与美食 以前的东西真的更好吃么?
> 还有一个很奇怪的现象:本地的比外地的好吃?(不管是菜还是肉)

也不是很奇怪,客观原因:

1. 外地运输时间长,保鲜要求高
2. 目前的育种水平,保鲜能力和风味不能兼顾,大多数基地产品都优先照顾保鲜能力
3. 外地货源大多来自大型基地,标准工业化养殖,满足的是基线要求,无法跟小农小养殖户精细化管理的产出的风味相提并论
4. 本地养殖户长期深耕本地需求,口味和品种把握更准(比如山东的炒鸡用的辣椒,它们只种筛选过的更好吃的螺丝椒),所谓老祖宗严选
5. 气候和水土问题,永远有本地优势物种
7 天前
回复了 woxiqingxian 创建的主题 美酒与美食 以前的东西真的更好吃么?
真的:
1. 老干妈改过配方,在它是个大型村镇企业的时候是最好吃的时候
2. 现在回农村抓的走地鸡/自种蔬菜远比城市里生鲜供应链的鲜鸡肉、蔬菜基地菜品好吃



假的:
1. 小时候的糖比现在好吃→真相是儿童的脑内奖励中枢与成人相比,对甜味更敏感
2. 小时候的杂牌零食比现在好吃→儿童的味觉系统训练不足,不能有效分辨有害物质/风味,我现在对增香剂的敏感程度比小时候高得多
> 为了其他人 clone 下来能直接用,我又添加了对应的 example 配置文件

本来项目也不应该其它人 clone 完就能直接用,应该是 clone 完,自动 build 一下能直接用,要么就下载 release 后能直接用

增加个 build 环节就好了
7 天前
回复了 coolfly1 创建的主题 MacBook Pro M4 选 macbookpro m4 还是 m4 pro
先说前提结论:M4pro 你买的是 GPU 和 **显存**,NPU 和 CPU 都不是很重要(用不上/性能溢出)



这是平时中低负载时的状态



这是本地运行 qwen:32b LLM 的状态,可以看到有 24g 的 wired ram ,这些是分给 gpu 用的


我用同时跑多个 LLM 的方式测试过内存压力,虽说 mac 的 swap 性能很强,但当然是还是无法完全取代 ram 的,当我的显存使用达到 40G 的时候系统卡死,看门狗 kill 掉了我的 session ,最后看到的总 ram 占用是 50g 左右


现在 pytorch 反正只适配了 apple silicon 的 gpu ,所有相关应用使用的是 Metal Performance Shaders (MPS) 来加速 ,NPU 只能在 coreML 中调用,which 只能在 xcode 中开发 native 应用时,把模型转换过来使用。 至于 GPU 本身的性能,据说大概不到桌面级 2060 (记不清了),所以也只能跑推理,不能跑训练


我目前稍微有点后悔,上限不够高,轻量冗余得又有点多了,也很贵,不如稍微加点钱买 air+正经 N 卡训练机
这么说,rebase 之于 merge 约等于 golang 之于 c++
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2604 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 12ms · UTC 01:54 · PVG 09:54 · LAX 17:54 · JFK 20:54
Developed with CodeLauncher
♥ Do have faith in what you're doing.