dayeye2006199

chatgpt 概念股，冲！

花哨应该去调 server 端的 shell ，不要为难客户端，人家只是个 SSH 客户端。。

gthread ，甚至流量不大的时候 sync 模式都可以。
online inference 一般不会上 GPU ，因为往 GPU 上面来回搬数据也是有 overhead 的。特别是你自己写的服务，没有做 batching 的话，就是不断的搬很小的 tensor ，做很简单的运算。这个时候这个 IO 开销会超过运算开销。

如果是做批量 inference （比如在数据管道里），可以考虑上 GPU 。

几个程序一起用 GPU 我记得默认和多进程模型类似，timesharing 模式，不同进程切分为 time slices ，上 GPU 执行，CUDA 里面有个中央的调度器。
nvidia 也有更高级的执行模式（可能要收费的），可以几个 kernel 一起上 GPU 并行执行，这样程序就不用中断。
但这个 schedule 算法是闭源的，谁也说不清楚是咋弄的，

Fluent Python

流量不太大，建议数据库自己带的锁机制+事务就可以解决了

权利和义务不对等，让他们凉快去

我觉得挺好的。我要是招人我会看的，这个是什么项目有很大的区别。写了一个 language server ，我觉得至少能看出几个素质：
英语不错，能看懂 lsp 协议，这部分中文资料又少，基本只能参考官方的说明。
对编程语言和编译原理有认知，没有相关的基本了解，光看懂协议也不知道说的是什么。
好奇心很强，一般人不太会去研究这个类型的项目。
如果还能持续维护这个项目，那还能看出来责任心比较强，也乐意与用户沟通。

综上，这些素质对大部分职位都是超出标准的，我会可以和这样的人一起工作。

Reddit 上面找。很多都分享 dotfile 的

curl 党表示压力不大