V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
dropdatabase
V2EX  ›  Local LLM

求推荐 基于本地文件的大模型?

  •  
  •   dropdatabase · 326 天前 · 1183 次点击
    这是一个创建于 326 天前的主题,其中的信息可能已经有所发展或是发生改变。

    想找个基于操作系统本地文件的大模型

    新接手的项目,代码逻辑啥的都不熟悉。想借助于 GPT 帮着熟悉代码。 例如:进入 xxx 目录 xxx 工程,解释 xxx 文件的第 xxx 代码,解析 xxx 函数的作用。类似这样的。

    5 条回复    2024-02-02 13:22:54 +08:00
    overstar
        1
    overstar  
       326 天前
    我用的 LM Studio 配合 codellama uncensored 版本,Q6 或者 Q8 感觉还行
    luguhu
        2
    luguhu  
       326 天前 via iPhone
    @overstar #1 uncensored 版本有什么区别?
    overstar
        3
    overstar  
       326 天前
    @luguhu 高清无码,有问必答😆
    lithiumii
        4
    lithiumii  
       326 天前 via Android
    @luguhu 大公司发布的大模型一般先有个 base 版本,只能补全文字不能对话;在 base 的基础上喂对话数据集训练出能对话的版本,就可以聊天了。但是这个对话数据集会包含很多拒绝回答的内容,用来让大模型有道德观,比如拒绝回答怎样制造生化武器或者怎样骂人。大公司们必须这样做,来表示自己开发 ai 不是为了危害社会。

    但是其他人可以把这些拒绝回答的对话从数据集里拿掉,重新训练 base ,就获得了 uncensored 版本
    luguhu
        5
    luguhu  
       326 天前 via iPhone
    @overstar #3 @lithiumii #4 谢谢科普,这就换 uncensored😆
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   4023 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 25ms · UTC 05:25 · PVG 13:25 · LAX 21:25 · JFK 00:25
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.