itemCount ++;
if (itemCount === items) {
pageCount ++;
if (pageCount === pages) cb(null);
async.eachSeries(webSites, function (site, cb___) {
fs.appendFile(filepath, site, function (err) {
if (err) console.error(err);
});
cb___();
});
cb_();
}
cb__();
我写的爬虫,在爬了一个page的所有item之后,还要深入到每个item里面取数据,取完之后写到文件里去,然后再爬下一个页面。
我使用了多层嵌套async.eachSeries之后发现,我只会在最深层级的回调中获取外层(套了很多层)的回调次数然后判断是不是继续下一步,所以写了很多的计数器。
有没有更好的解决方法呢?
1
xinyu198736 2015-06-12 15:06:41 +08:00
1. eachSeries有第三个参数。
2. 计数器是没有必要的,可以再加一层嵌套 ``` var pageArr = []; for(var i=1;i<=pageCount;i++){ pageArr.push(i) } async.eachLimit(pageArr... ``` |
2
ZackYang 2015-06-12 16:30:40 +08:00
你需要的只是一个 EventEmitter
|
3
ekousp 2015-06-12 18:20:50 +08:00
你需要的是使用 ES7 的 async 和 await。
|
5
haozhang OP @xinyu198736 eachLimit解决了我的问题,thx 。
|
6
magicdawn 2015-06-12 20:20:46 +08:00
你需要的是ES7 的async await,然而没卵用,目前没哪个js engine支持~
但是可以曲线救国,Generator + Promise,yield Promise = await Task 甩一个示例 https://github.com/magicdawn/yun-playlist-downloader |
7
Phariel 2015-06-12 20:31:07 +08:00 via Android
你真的需要promise
|
8
xinyu198736 2015-06-13 09:12:28 +08:00
@haozhang 哈哈,看回答,浮躁的JS圈
|