V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
mazejiang04
V2EX  ›  程序员

想落地一个企业自己的生成式 AI 问答系统,基于自己的数据进行训练,该从哪些方面入手,有好的教程吗?

  •  
  •   mazejiang04 · Jun 13, 2024 · 3635 views
    This topic created in 696 days ago, the information mentioned may be changed or developed.
    12 replies    2024-06-13 21:55:35 +08:00
    goofish
        1
    goofish  
       Jun 13, 2024
    可以看看 llama index 这个库。我最近也在搞类似的东西,看看有没有大佬有好的实践
    mazejiang04
        2
    mazejiang04  
    OP
       Jun 13, 2024
    @xhldtc 好的,我看一下,多谢啦
    bigmomo
        4
    bigmomo  
       Jun 13, 2024
    MaxKB
    bensky
        5
    bensky  
       Jun 13, 2024
    https://huggingface.co/ 整个好显卡就行了。
    tuotuolala
        6
    tuotuolala  
       Jun 13, 2024
    qanything 、不私有化部署扣子,钉钉 ai 助理都行,太多了
    gauinlee
        7
    gauinlee  
       Jun 13, 2024
    一、前端 GPT 框架
    Gradio
    https://www.gradio.app/

    Streamlit 、Static SDK 等方式快速创建创空间,向大家分享您的创意


    二、后端 GPT 开源社区
    Hugging Face
    https://huggingface.co/

    摩搭社区
    https://modelscope.cn/studios
    gauinlee
        8
    gauinlee  
       Jun 13, 2024   ❤️ 1
    zty5678
        9
    zty5678  
       Jun 13, 2024
    向量数据库 milvus 的官网有个例子演示了如何搭建一个知识问答系统: https://milvus.io/docs/question_answering_system.md , 可以参考一下, 看看它的大致原理.

    如果想集成 chatgpt 或者国内大模型, 那么需要懂 RAG 的流程了, 刚好它也有个关于 RAG 的例子: https://milvus.io/docs/build-rag-with-milvus.md
    Ghostsss
        10
    Ghostsss  
       Jun 13, 2024
    我是用的这个,1panel+MaxKB + Ollama
    ALLROBOT
        11
    ALLROBOT  
       Jun 13, 2024
    构建问答系统可以下个通义千问 App ,“工具”->“高级设置”:上传 PDF 格式的知识库文件,设置角色设定等

    或去智谱搞个智能体,允许 PDF 、doc 、xlsx 等上传作为知识库,支持加入外部工具自定义 API 创建想要的功能

    大公司早就考虑好了,这是一个普通人最快创建 AI 问答系统的途径,还是免费的
    c466934322
        12
    c466934322  
       Jun 13, 2024
    原来没有人推荐 fastgpt ,我用了半天,感觉本地很吃显卡。因为 qwen7b 就是乱回。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1034 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 48ms · UTC 18:27 · PVG 02:27 · LAX 11:27 · JFK 14:27
    ♥ Do have faith in what you're doing.