mayooot 最近的时间轴更新 mayooot 最近的时间轴更新 |
mayoootV2EX 第 663414 号会员，加入于 2023-11-20 10:47:52 +08:00今日活跃度排名 4564 |
| 使用 Docker 容器运行源神开源的 Grok-1 🤔 程序员 • mayooot • 3 天前 • 最后回复来自 mayooot | 18 |
| [求助] 社招 LeetCode 刷题语言选择 Go/ Java ？ 程序员 • mayooot • 19 天前 • 最后回复来自 e3c78a97e0f8 | 25 |
| [求助] 服务端开发 MacBook 选购建议 MacBook • mayooot • 15 天前 • 最后回复来自 mayooot | 28 |
| 怎样通过接口方式对 GPU 进行 MIG 切分？ NVIDIA • mayooot • 28 天前 • 最后回复来自 yzs981130 | 1 |
| 使用 GPU-Docker-API 管理 GPU 模型容器版本
1 Docker • mayooot • 95 天前
|
| 出 iPhone 11 128g 二手交易 • mayooot • 107 天前 • 最后回复来自 WessonC | 8 |
| 调用接口的方式获取 NVDIA GPU 🤥 Go 编程语言 • mayooot • 91 天前 • 最后回复来自 zeusho871 | 8 |
| 推荐一个 Alfred 工作流，用于格式化 json。 Alfred • mayooot • 22 天前 • 最后回复来自 mayooot | 16 |
mayooot 最近回复了
3 天前 回复了 mayooot 创建的主题 › 程序员 › 使用 Docker 容器运行源神开源的 Grok-1 🤔 |
@xiaozhang1997 谢谢哥们理解，我也没想到有人认为我在炫富，我就一个底层小牛马，给公司跑跑模型。
在 Github 上这个项目还是能帮到一些人的（虽然老外比较多），这样就足够了，😊
在 Github 上这个项目还是能帮到一些人的（虽然老外比较多），这样就足够了，😊
10 天前 回复了 mayooot 创建的主题 › 程序员 › 使用 Docker 容器运行源神开源的 Grok-1 🤔 |
@firefox12 GitHub 上已经有封装好的 web 页面，看一下这个帖子，快速启动里的-grok 本地部署那篇文章，里面有讲的。
不需要联网。
不需要联网。
12 天前 回复了 mayooot 创建的主题 › 程序员 › 使用 Docker 容器运行源神开源的 Grok-1 🤔 |
@firefox12 你可以理解为一个对话模型和 chatgpt 差不多，你问一个问题它回答你。比如默认是在黑框框（命令行模式）里问问题/回答，如果它有 API ，就能写个 WEB 页面，然后你再浏览器上就能和它对话了，这时候就和 chatgpt 更像了。
不过它和数据库不一样的是，需要的资源要比我们的电脑大的多，就得需要专业的服务器来跑模型了。但是把模型下载到服务器上，然后跑起来，它肯定要依赖环境的，而服务器大部分情况下之前就已经被用过了，比如说 Python 版本是 3 .8 ，但是不凑巧的是这个模型还需要 3.10 ，所以选择用 Docker 容器来打包它的运行时环境（里面有 Python 3.10 ）。
不知道这样解释能否明白一点。
不过它和数据库不一样的是，需要的资源要比我们的电脑大的多，就得需要专业的服务器来跑模型了。但是把模型下载到服务器上，然后跑起来，它肯定要依赖环境的，而服务器大部分情况下之前就已经被用过了，比如说 Python 版本是 3 .8 ，但是不凑巧的是这个模型还需要 3.10 ，所以选择用 Docker 容器来打包它的运行时环境（里面有 Python 3.10 ）。
不知道这样解释能否明白一点。
14 天前 回复了 mayooot 创建的主题 › 程序员 › 使用 Docker 容器运行源神开源的 Grok-1 🤔 |
@kneo 模型跑起来之后需要改改 py 代码，才能和 chatgpt 那样连续对话。关于效果，我只能说比较适合企业套皮...
14 天前 回复了 mayooot 创建的主题 › 程序员 › 使用 Docker 容器运行源神开源的 Grok-1 🤔 |
@julyclyde 意义就在如果你想跑起来这个模型不需要处理复杂的环境了，关于报错信息，你自己把模型 download 下来跑跑不就知道了吗，难道你用的每个 docker 容器，作者都会告诉你他做了什么？
15 天前 回复了 mayooot 创建的主题 › 程序员 › 使用 Docker 容器运行源神开源的 Grok-1 🤔 |
@mightybruce 炫富啥啊.... 都是拿公司提供的服务器跑，或者去国家超算中心租用机器
15 天前 回复了 mayooot 创建的主题 › MacBook › [求助] 服务端开发 MacBook 选购建议 |
谢谢老哥们的建议！！最后还是等过段时间再买，本来想着下半年开始找工作呢，后来打算还是现在准备准备开始找吧，因为感觉下半年校招也要开，可能不太好找。
祝我跳槽顺利吧😄 后面购买了 MacBook 再给大伙分享一下使用感受。
祝我跳槽顺利吧😄 后面购买了 MacBook 再给大伙分享一下使用感受。
20 天前 回复了 mayooot 创建的主题 › MacBook › [求助] 服务端开发 MacBook 选购建议 |
@crazyweeds 感谢老哥，这么耐心解答。我刚把一些软件退了退，kernel_task 降低到 10%了，Goland 占用 300%是因为正好打开了一个 K8s 插件项目，在加载依赖呢。
现在没写代码，没打开 jb 家的工具，windowServers 还是 25%左右，刚刚又飙到 40%多了....，难道是系统的原因，我的系统是：sonoma 14.0
现在没写代码，没打开 jb 家的工具，windowServers 还是 25%左右，刚刚又飙到 40%多了....，难道是系统的原因，我的系统是：sonoma 14.0
20 天前 回复了 mayooot 创建的主题 › MacBook › [求助] 服务端开发 MacBook 选购建议 |
20 天前 回复了 mayooot 创建的主题 › MacBook › [求助] 服务端开发 MacBook 选购建议 |
@forvvvv123 好的，谢谢老哥的建议。我也是双显示器，感觉外接+air 弄个双显示器也还行。我工作暂时不用 office ，大部分都要云上，感觉 air 24 应该够了。
Select Language