3.5 的 api 可以做到无限 token ，但是这个 API 还不支持 embed 模型，就挺无奈的。

"单个玩家的小概率错误不应该影响所有玩家的体验"

应该学云风，把每一个用户都用 lua 协程隔离，做到单个用户崩溃不影响全体服务器。

本来已经是玩家逻辑代码了，需要一定容错性，直接停机就挺离谱的。

@tool2d 我试了一下，你提供的 IP 好像不行。我是这个 IP 52.152.96.252 api.openai.com

但是光改 IP 也没用，你还需要给 chrome 装个插件，去掉 SNI 的信息才行。

有两个。一个是 DNS 污染，另一个是 SNI 阻断。

前者修改 host 文件就可以了，后者是 SSL 协议里的，需要修改 chrome 的底层参数。

@mxT52CRuqR6o5 哦，我理解你意思了。就是加密私密 blog ，不输入密钥没办法查看那种。

因为我看到楼主开头写的是加密 html/js/css 全部资源，还以为是自动解密，不需要输入密码那种。

@mxT52CRuqR6o5 没理解，按照楼主的思路，在 service worker 里出来的就是文件明文了啊。

密文仅仅是 url fetch 返回的结果，worker 都内部处理过一次了。如果这时候还没有密钥，那浏览器也没办法解析 html 了。

@biguokang 看了一眼 https://github.com/transitive-bullshit/chatgpt-api/blob/main/src/chatgpt-api.ts ，确实是和官方 API 一样，把本地所有的历史消息 ID 都转换成文本，组合成一个巨大无比的 messages 数组后，发给 api 。

@mxT52CRuqR6o5 在 service worker 里 hook api ，返回的应该就是明文了。

@biguokang "我关了，这玩意上下文收费太恐怖了"

我翻了官方的 openapi nodejs sdk ，也没有上下文关联的参数。

官方推荐的上下文关联，是多 message 合并发送，重复发送一次历史消息，服务器是不存对话 ID 的。

都开始怀疑 parentMessageId 是第三方 api 自己加的参数。没准到官网 API ，都是巨型字符串拼接，收费也就高了。

service worker 这种最容易被破解了，和主线程交互几乎都是固定 API ，拦截一下返回值就行了。

你还不如写在 JS 代码里，混淆一下。

除非你网站不可替代，要不然没几个人会反编译混淆后的 JS 。

@Heartbleed 你看一楼呗，c++语法不做限制的话，除了作者自己，别人都不太好接手维护。

后端和 C++最接近的，除了 go 就是 rust 。

C++一定要静下心来写，而互联网公司死命催进度和 KPI ，就很难把代码写好。

@youthfire "但是我发现设定 stream=False 返回的也是生成器，不能取值，不知道是不是我方法不对"

我这里可以正常取值，就是普通的 json 。

我又想了一下。

既然 openai 在 http 协议上不支持压缩（ accept-encoding: gzip, deflate, br ），那么干脆换个思路，让 openai 用 HTTPS 代理文本内容的时候，用 SSL 开启压缩功能(HANDSHAKE_SERVER_HELLO 里的 compression flag)就可以了。

这样 openai 的服务器代码，也可以不需要改动。

我看大公司分享的 PPT ，都是严格限制 C++新语法的使用。

就连新线程都不允许随便开，还要经过领导审批。

就是为了以后除错方便。C++这种语言并不太适合写复杂后端，会导致 BUG 隐藏太深。很多公司都开始劝退了，招新人 CPP ，进来写 go 。

@brader 其实不臃肿，你试一下用 gzip 流式压缩这些重复字符串，

我这里 60k 左右的文本数据回答，可以压缩到 2k 之内。

就是 openai 把这项特性关了，只打开了 chunk 传输，贼讨厌。

@songjiaxin2008 这都行吗？汗。

看来我要研究一下 nodejs 代码了，新版的 chat api 默认返回没有断句。但总觉得缺少上下文关联性啊。

我昨天还想发帖来着，就是很浪费流量。

关键点还不是 data:这种格式，因为这种格式不是 openai 发明的，而是 firefox 发明的。

而是 openai 服务器，无法进行任何的压缩传输！！我试了所有的压缩方法，都没有能开启文本压缩功能（ content-encoding 始终不生效）。

我没在 https://platform.openai.com/docs/api-reference/chat 上面，查到任何关于 parentMessageId 的参数？

难道这个是隐藏的吗？