这是一个创建于 460 天前的主题，其中的信息可能已经有所发展或是发生改变。
有个麻烦事儿需求，请大家帮着瞅瞅，给我点儿灵感。。。
- 我有很多 ec2 的机器，然后他们会产生日志，我写了逻辑，会将这些日志汇总到一个 s3 的 bucket 里面
- 我现在需要把这些日志打包成一个大的 zip 包，然后提供下载
- 我的思路是，再开一台 ec2 机器，s5cmd 下载 s3 上所有 ec2 日志，然后在 ec2 上打包，然后再上传
这样就有一些瓶颈
- 打包的速度太慢
- 上传的速度太慢，175GB 上传要 1 个小时，这。。
请问大佬们能给我一些什么建议吗？？？或者一些方向也行
s5cmd 非常好用，下载完全没问题，10min 内能下完，但是重打包上传就有些拖时间了。
 |
1
pc10201 2023-09-27 15:21:44 +08:00
按时间进行切割，将容量减小
|
 |
2
yinmin 2023-09-30 10:49:51 +08:00 via iPhone
1 个小时还可以啊，在凌晨定时让 ec2 慢慢跑
|
Select Language