reeco

reeco

V2EX 第 61311 号会员,加入于 2014-04-27 10:41:34 +08:00
今日活跃度排名 18027
根据 reeco 的设置,主题列表被隐藏
二手交易 相关的信息,包括已关闭的交易,不会被隐藏
reeco 最近回复了
说了一堆废话
国内电信 1000M 一年也是差不多 1000 ,就是上行太慢了,上行 50 出头
52 天前
回复了 lucheng0127 创建的主题 NAS 最终使用 Linux 自己搭建 NAS 系统
Debian 插满硬盘装上 zfs samba 和 syncthing 就搞定了
目前最大的用处就是推测解码
7B 不必考虑非量化场景,单机 2 张卡,2 个实例就搞定了
80 天前
回复了 ltfree 创建的主题 程序员 最近被 OCR 识别搞得头痛
部署个 paddleocr 解决
142 天前
回复了 zhuwd 创建的主题 NVIDIA NVLink 对显卡集群的影响有多大?
生产环境显存足够还用 ollama 这种套壳干嘛,暴殄天物。70B 用 Triton + TensorRT-LLM 理论性能是最好的
147 天前
回复了 mrleft 创建的主题 Local LLM ollama 如何手动下载模型?
直接 huggingface 下载模型,llama.cpp 跑一下,一样的
关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1220 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 12ms · UTC 23:28 · PVG 07:28 · LAX 16:28 · JFK 19:28
Developed with CodeLauncher
♥ Do have faith in what you're doing.