首页注册登录

imFu 最近的时间轴更新

imFu

V2EX 第 656105 号会员，加入于 2023-10-24 13:24:27 +08:00

imFu 提问技术话题好玩工作信息交易信息城市相关

imFu 最近回复了

16 天前

回复了 leeum 创建的主题 › 程序员 › 使用 llama3:70b 本地化部署， 100 人左右的并发，大概需要多少块 4090 才能满足？

@robbaa 哥们有啥能够支持并发的推理框架推荐的吗？

» imFu 创建的更多回复

关于 · 帮助文档 · 博客 · API · FAQ · 实用小工具 · 3697 人在线 最高记录 6679 ·

Select Language

创意工作者们的社区

World is powered by solitude

VERSION: 3.9.8.5 · 12ms · UTC 00:47 · PVG 08:47 · LAX 17:47 · JFK 20:47
Developed with CodeLauncher
♥ Do have faith in what you're doing.