V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
tsja
V2EX  ›  程序员

赐教: 可否通过本地 PC 替代云端实现 Stable Diffusion 生图,降低本?

  •  
  •   tsja · 90 天前 · 1920 次点击
    这是一个创建于 90 天前的主题,其中的信息可能已经有所发展或是发生改变。

    公司计划使用 Stable Diffusion 实现 AI 生图功能,但发现云服务器的成本较高,一年下来至少一万。相比之下,个人 PC 的配置似乎更划算。

    我的设想是:当服务器需要处理 AI 生成图片时,可以将计算任务转交给本地 PC ,生成完成后再将结果上传至服务器。想请教大家,这种方案是否可行

    另外,如果使用 32G/64G 内存的 Mac 来处理 Stable Diffusion 生成任务,在生图性能上相比 PC 有优势吗?

    感谢各位大佬的建议和指导!

    20 条回复    2024-09-27 09:55:18 +08:00
    xtreme1
        1
    xtreme1  
       90 天前
    m 系列跑 sd 比较慢, 这玩意是计算密集不是 io 密集
    flmn
        2
    flmn  
       90 天前
    这种方案当然可行。用户提请求,云端将请求入库待处理; PC 连到云端,取出任务处理再回传。
    huage
        3
    huage  
       90 天前
    考虑成本就自己建,买一台二手 GPU 服务器或者自己装一台都行,初始投入比较高
    iyiluo
        4
    iyiluo  
       90 天前
    还不如自建服务器
    tsja
        5
    tsja  
    OP
       90 天前
    @xtreme1 我是看到 M2 Max 的 Mac Studio 32G 内存 1.3w, 64G 的 2w, 同样价格 PC 显存也就 24G, 会不会因为 Mac 统一内存更大换来的出图效率高一些?
    13240284671
        6
    13240284671  
       90 天前
    通过 frp 代理,可以实现
    1.需要买一台中转服务器(10M 带宽的就行)
    2.window 跑的话,需要几天重启一次
    3.电费一天也要几块钱吧
    最好是买一台服务器,找有公网 ip 的托管
    tsja
        7
    tsja  
    OP
       90 天前
    @flmn 好的, 谢谢! 请问这种方式, 有没有可以参考的开源项目或者最佳实践呢?
    xtreme1
        8
    xtreme1  
       90 天前
    @tsja 5#
    有个玩意叫 2080Ti 魔改 22g....
    tsja
        9
    tsja  
    OP
       90 天前
    @13240284671 谢谢!
    SamLacey
        10
    SamLacey  
       90 天前
    @tsja #5 64g 出大图有优势,n 卡有 cuda 加速,出图速度会快很多,还能炼丹
    tsja
        11
    tsja  
    OP
       90 天前
    @SamLacey 谢谢, 我的需求还是速度 > 质量, 那我还是考虑 N 卡吧
    sunny352787
        12
    sunny352787  
       90 天前
    不要用 mac 跑,仅仅是显存大没啥用,还是得 N 卡,搞个 4070 、4080 的机器,虽然显存看着不大,但出图速度很快,而且 cuda 跑 SD 资料很多,mac 碰到问题都不好查
    tool2dx
        13
    tool2dx  
       90 天前
    https://vladmandic.github.io/sd-extension-system-info/pages/benchmark.html

    可以看一下这个,来选择最合适的硬件
    devilweime
        14
    devilweime  
       90 天前
    已经在本地畅玩了,重点是显卡,看公司舍不舍花钱了
    codersun123
        15
    codersun123  
       90 天前
    4090 的服务器才 2 块钱 1 个小时,你按需使用,需要的时候把服务器开机,不需要的时候关机。自己写点脚本连入系统就好了
    superkkk
        16
    superkkk  
       90 天前 via iPhone
    gpu.pro 这上面有 5 毛一小时的 3080 20g 显卡,但是我用起来感觉网速挺垃圾的。op 可以尝试新注册不同的平台薅羊毛,现在好多出租显卡的平台,薅羊毛能优惠不少钱
    L13
        17
    L13  
       90 天前
    一年才一万,什么 GPU 云服务器能这么便宜
    lessurliu
        18
    lessurliu  
       90 天前
    之前自己实现过,我的方案是云端任务存到 redis 队列,本地监听队列然后执行生图任务。也可以搞消息队列,但国内云厂商 redis 很便宜,一个月只要几块钱,这样搞也不用代理啥的,比较稳定
    flmn
        19
    flmn  
       89 天前
    @tsja 不需要什么框架。最简单的,相信数据库你已经在用了吧,就定时扫表呗。复杂点的,弄个 redis/消息队列/websocket 啥的及时通知。如果是我,第一版肯定是先用数据库,不够用了再改更复杂的方式。
    tsja
        20
    tsja  
    OP
       88 天前
    @lessurliu @flmn 感谢大佬
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1231 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 21ms · UTC 18:08 · PVG 02:08 · LAX 10:08 · JFK 13:08
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.