初学 Python 自己写了个程序爬自己博客

[lzj307077687]

https://github.com/straightedge4life/roblograbber
有什么不足麻烦大佬们指正

[CallMeReznov]

看到楼主头像,我下意识就想脱裤子.

[Iamnotfish]

干嘛存 SQL,存 CSV,TXT 不是更方便吗（认真脸

[wzwwzw]

with ThreadPoolExecutor(max_workers) as pool:
for item in args :
future = pool.submit(fn , **item)
futures.append(future)
pool.shutdown()

用了 with 会自动帮你上下文管理的 pool 的，不需要写 shutdown()

[lzj307077687]

@Iamnotfish #2 一开始是写入 TXT 的 确实简单很多
现在存 MYSQL 主要是之前安装 mysqlclient 填了个坑
感觉不稍微试用下的话有点辜负之前的折腾 嘿嘿

[lzj307077687]

@wzwwzw #3 又学到了~ 谢谢指正

[locoz]

看起来你之前应该不是写 Python 的？有些地方 PEP8 规范可以注意一下。
然后为了提高效率可以试试 ayncio，用 aiohttp 这类异步的库。
还有就是像 type(headers) is dict 这种可以写成 isinstance(headers, dict)。

[lzj307077687]

@locoz #6 谢回复指导，下班回去了解一下~
现在主要是写 PHP。