cander0815
V2EX  ›  Local LLM

大佬们,本地使用 ollama 部署的 DeepSeek-R1-32B 在 anythingllm 中发送图片,它说它没收到,应该怎么做?才能让他帮我识别图片?实现官网那种效果

  •  
  •   cander0815 · Mar 6, 2025 · 1933 views
    This topic created in 607 days ago, the information mentioned may be changed or developed.
    4 replies  •  2025-03-11 17:25:23 +08:00
    cander0815
    cander0815
    OP
    Mar 11, 2025
    1
    请问有大佬知道吗?应该如何部署
    hefish
    hefish
    Mar 11, 2025
    2
    anyhingllm 非常傻,他 rag 只支持定长切片,实测基本不可用。网上搜的文档例子都很牛,碰到自己跑就完蛋。。

    这个这个可能是模型的限制吧。 这个是 text-to-text 的模型吧。。。找个 text/image to text 的模型试试看。。。
    coefu
    coefu
    Mar 11, 2025
    3
    anythingllm 原生的嵌入模型 all-MiniLM-L6-v2 不是多模态的,并且也没有提到 vision 模型的集成,ds 的 671b 是 moe 专家模型,里面有原生 vision 处理的能力。
    coefu
    coefu
    Mar 11, 2025
    4
    或者你把嵌入模型 改成 granite3.2-vision ,然后看看情况。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1307 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 21ms · UTC 21:03 · PVG 05:03 · LAX 13:03 · JFK 16:03
    ♥ Do have faith in what you're doing.