主要可能需要根据公司现有资料训练一下,然后让他生成文章,回答问题这些。 这些需求的话,32b 模型能满足吗?如果组个机器,双 2080ti 22g 版合适吗,还是需要更好点的配置?
1
xjh1024 183 天前
macmini m4pro 大内存就够你这个需求了,自己在 已有设备上先试一下 ollama 看多少 b 能满足你的需求
给个参考,m4 + 32g 跑 16b 速度 一个人用可以接受 |
![]() |
2
catamaran 181 天前
阿里云的服务器可不便宜,如果确定要搭建可以考虑自己买台服务器托管到数据中心,特别是偏远地区的数据中心会比较便宜。
|