V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  okoklll  ›  全部回复第 1 页 / 共 3 页
回复总数  52
1  2  3  
bGlueml3YW5zdWlAZ21haWwuY29t

正需要,支持下
@charles0 确实,我们也会被问到这个问题。但本地微调,GPU 是个问题。稍大点的模型,消费级显卡很难跑动了吧。
@joocejie 这个挺有意思的,感觉可以做个智能体小工具。
@charles0 是因为数据安全性的问题吗?
@RealMan 感谢提供思路哈~ 看了下 Tinker ,看起来是提供了个 SDK ,写代码使用的。 我这个是不需要写代码,在页面配置参数,然后提交训练任务就行了,本意是想降低微调门槛。

您的观点我是认同的。 我们也和一些做 AI 应用的公司聊过,现状是这样的。

另外,数据安全性也确实是一个绕不开的问题,也有用户问我们私有化部署或单独签署安全协议的事情。

同时,我们也看到一些个人用户或中小企业用户有微调需求,但难以承担自建的硬件和维护成本。但目前我们用户规模还比不大,不知道这样的用户群体是不是普遍存在以及分布在哪些行业中~
@skallz 这个想法很棒哈~ 感觉可以在数据处理工具里预置个 Paddle-OCR 做识别;您说的 OCR 是用多模态模型做吗?还是一些深度学习模型呢?
@AllenZ0 哈哈 这个角度我是没想到
@hmxxmh 是的,这个就是跟 llamafactory 合作,做的在线版。但开源框架和商业产品用户群体好像还不太一样
1  2  3  
关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   2532 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 14ms · UTC 07:15 · PVG 15:15 · LAX 23:15 · JFK 02:15
♥ Do have faith in what you're doing.