frankyzf
V2EX  ›  Local LLM

有支持 6000 Ada 使用 deepseek v4 flash 推理 的框架吗

  •  
  •   frankyzf · 1 day ago · 1196 views

    显存是够的(多卡),但架构有限制( SM_89 )

    4 replies    2026-06-19 14:19:30 +08:00
    wwhc
        1
    wwhc  
       1 day ago
    等 llama.cpp 合并 Deepseek v4 的补丁到主线吧
    ETiV
        2
    ETiV  
       1 day ago via iPhone
    BaiLinfeng
        3
    BaiLinfeng  
       1 day ago
    还是那句话 Deepseek 被神话了,我感觉也就那样
    gpt5
        4
    gpt5  
       1 day ago
    公司有几张这卡,显存是可以,但架不住慢啊。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2494 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 48ms · UTC 06:52 · PVG 14:52 · LAX 23:52 · JFK 02:52
    ♥ Do have faith in what you're doing.