V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
leyviw
V2EX  ›  程序员

如何训练 chatgpt3

  •  
  •   leyviw · 2023-02-10 00:51:28 +08:00 via iPhone · 3100 次点击
    这是一个创建于 440 天前的主题,其中的信息可能已经有所发展或是发生改变。
    想要导入一些帮助文档,实现精确问答,各位 V 友们知道怎么代码实现训练吗?
    10 条回复    2023-02-11 08:46:03 +08:00
    Baboonowen
        1
    Baboonowen  
       2023-02-10 01:55:21 +08:00 via iPhone
    训练一次五百万美金,你们公司这么有钱?
    ifhwhlwpto
        2
    ifhwhlwpto  
       2023-02-10 02:14:11 +08:00
    直接联系微软吧 Microsoft will let companies create their own custom versions of ChatGPT
    https://www.cnbc.com/2023/02/07/microsoft-will-offer-chatgpt-tech-for-companies-to-customize-source.html
    lrigi
        3
    lrigi  
       2023-02-10 09:11:06 +08:00 via iPhone   ❤️ 1
    chatGPT 应该还没提供这样的 api 。
    但 GPT3 应该是有的,应该不用付太多钱就可以 finetune 一个你想要的模型。
    https://platform.openai.com/docs/guides/fine-tuning
    价格在这里
    https://openai.com/api/pricing/
    模型大小不一样价格也不一样
    cxe2v
        4
    cxe2v  
       2023-02-10 09:12:54 +08:00
    chatGPT3 是什么?
    我只听说过 chatGPT 和 GPT3
    jezal
        5
    jezal  
       2023-02-10 12:04:49 +08:00
    你这是一个最常规的 AI 需求,请搜索关键词 微调 (Fine-tuning)。
    Alias4ck
        6
    Alias4ck  
       2023-02-10 12:47:58 +08:00
    自己训练 你有这么多卡吗。
    Juszoe
        7
    Juszoe  
       2023-02-10 12:58:46 +08:00
    GPT-3 1750 亿参数,需要 700GB 显存才能装下,即使只是微调,成本也很高,何况 GPT-3 还没有公开
    建议使用 Open AI 的 API 来微调
    leyviw
        8
    leyviw  
    OP
       2023-02-11 08:39:11 +08:00 via iPhone
    感谢各位,了解了
    leyviw
        9
    leyviw  
    OP
       2023-02-11 08:45:54 +08:00 via iPhone
    @Juszoe 感谢
    leyviw
        10
    leyviw  
    OP
       2023-02-11 08:46:03 +08:00 via iPhone
    @jezal 感谢
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   1358 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 30ms · UTC 17:45 · PVG 01:45 · LAX 10:45 · JFK 13:45
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.