SteveRogers
V2EX  ›  Local LLM

本地大模型最佳 Mac 配置选择

  •  
  •   SteveRogers · 19h 31m ago via iPhone · 991 views
    近期看了下,因为人在深圳,去 hk 非常方便,加上有教育渠道,想选一台 mac studio 作为个人本地跑龙虾专用,也不准备全部本地,那个内存最低都要 128G ,性价比太低,想着端云结合着来。

    模型估计是:
    1.gemm4 31b
    2.qwen3 32b

    想问问有本地跑模型的吗,跑的怎么样?

    初步计划硬件为

    M4Max 64G 1Tb 这个版本,22749 折合下来估计在 19000 左右
    13 replies    2026-05-28 11:19:31 +08:00
    andyskaura
        1
    andyskaura  
       19h 26m ago
    看出来了,你单纯就是想买个 mac studio
    anerevol
        2
    anerevol  
       19h 23m ago
    64G 能跑的也不多吧. 现在 deepseek v4 flash 感觉跟不要钱一样随便用了, 干简单的活也完全没问题的.
    snachx
        3
    snachx  
       19h 14m ago   ❤️ 1
    https://apxml.com/zh/tools/vram-calculator

    可以用这个试试看到底需要什么配置的 mac
    novaren
        4
    novaren  
       19h 14m ago via Android
    降价了吗
    AIgogo
        5
    AIgogo  
       19h 11m ago
    现在端侧或者本地部署,适合特别有兴趣或者能和工作任务挂钩的情况,不然就是吃灰、投资硬件。。。
    SteveRogers
        6
    SteveRogers  
    OP
       19h 9m ago via iPhone
    @andyskaura 想去采集分析一些帖子、包括评论区,看看消费者到底喜欢什么样的产品
    niubilewodev
        7
    niubilewodev  
       19h 2m ago
    @SteveRogers 你的这些需求用 API 就好了。
    burp2019
        8
    burp2019  
       18h 57m ago
    @snachx 这个可以,真直观
    xxq2334
        9
    xxq2334  
       16h 44m ago via iPhone
    256g 应该能跑量化后 deepseek v4 flash
    SteveRogers
        10
    SteveRogers  
    OP
       2h 37m ago via iPhone
    @xxq2334 256g 太贵了,普通人砸下去很难回本
    uprit
        11
    uprit  
       2h 13m ago
    30B 左右的这个级别,本地只能干简单的活儿。比如翻译、写个 commit 文档什么的。
    qwen3.6 27B 被传的那么邪乎,实际也就是比其他本地模型强一些。别抱太大期望。
    俺试过用这个模型写代码,吭哧吭哧写两天,一大堆问题解决不了,换用线上 API ,结果俩小时搞定,架构还更简洁。
    sn0wdr1am
        12
    sn0wdr1am  
       1h 37m ago
    我总感觉的,目前的情况下,端侧部署本地大模型,要么是土豪的不行,要么就是性价比太差。
    frantic
        13
    frantic  
       30 mins ago
    @SteveRogers 你这诉求直接 deepseek v4 flash 就好了,买设备的预算拿出来 2000 够你用大半年的
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   5197 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 58ms · UTC 03:49 · PVG 11:49 · LAX 20:49 · JFK 23:49
    ♥ Do have faith in what you're doing.