写了一篇 blog 关于 langchain llm streaming

[scalaer]

Langchain 通过 callback 机制，可以将 LLM 输出的 token 实时处理. 同时支持同步 IO 和异步 IO 的方式来输出 token ，分别对应 StreamingStdOutCallbackHandler 和 AsyncIteratorCallbackHandler

Langchian LLM Streaming