亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb

首頁 > 編程 > JavaScript > 正文

用Node.js通過sitemap.xml批量抓取美女圖片

2019-11-20 12:23:56
字體:
來源:轉載
供稿:網友

之前看了很多個版本,自己也搞一個。

1. 支持指定保存到哪個目錄
2. 按文章進行分目錄存放
3. 支持設置并行下載上限

下次有空再搞個整站下載的。

package.json

{ "name": "me2sex-images", "version": "0.0.1", "description": "Batch download images from http://me2-sex.lofter.com", "main": "index.js", "author": "Fay", "license": "MIT", "dependencies": {  "async": "^0.9.0",  "cheerio": "^0.18.0",  "mkdirp": "^0.5.0",  "request": "^2.51.0",  "url": "^0.10.2",  "xml2js": "^0.4.4" }}

index.js

var node = {  async: require('async'),  cheerio: require('cheerio'),  fs: require('fs'),  mkdirp: require('mkdirp'),  path: require('path'),  request: require('request'),  url: require('url'),  xml2js: require('xml2js'),}; var Me2SexImages = {   /**   * 配置選項   */  options: {    // 網站sitemap地址    sitemap: 'http://sexy.faceks.com/sitemap.xml',    // 保存到此文件夾    saveTo: '/Users/Fay/Pictures/me2sex',    // 圖片并行下載上限    downLimit: 5,  },   posts: [],   /**   * 開始下載(程序入口函數)   */  start: function() {    var self = this;    var async = node.async;     async.waterfall([      self.wrapTask(self.sitemapXML),      self.wrapTask(self.sitemapJSON),      self.wrapTask(self.downAllImages),    ], function(err, result) {      if (err) {        console.log('error: %s', err.message);      } else {        console.log('success: 下載成功');      }    });  },   /**   * 包裹任務,確保原任務的上下文指向某個特定對象   * @param {Function} task 符合asycs.js調用方式的任務函數   * @param {Any} context 上下文   * @param {Array} exArgs 額外的參數   * @return {Function} 符合asycs.js調用方式的任務函數   */  wrapTask: function(task, context, exArgs) {    var self = this;    return function() {      var args = [].slice.call(arguments);      args = exArgs ? exArgs.concat(args) : args;      task.apply(context || self, args);    };  },   /**   * 獲取站點sitemap.xml   */  sitemapXML: function(callback) {    console.log('開始下載sitemap.xml');    node.request(this.options.sitemap, function(err, res, body) {      if (!err) console.log('下載sitemap.xml成功');      callback(err, body);    });  },   /**   * 將sitemap.xml轉成json   */  sitemapJSON: function(sitemapXML, callback) {    var self = this;    console.log('開始解析sitemap.xml');    node.xml2js.parseString(sitemapXML, {explicitArray: false}, function(err, json) {      if (!err) {        self.posts = json.urlset.url;        self.posts.shift();        console.log('解析sitemap.xml成功,共有%d個頁面', self.posts.length);      }      callback(err, self.posts);    });  },     /**   * 下載整站圖片   */  downAllImages: function(callback) {    var self = this;    var async = node.async;    console.log('開始批量下載');    async.eachSeries(self.posts, self.wrapTask(self.downPostImages), callback);  },    /**   * 下載單個post的圖片   * @param {Object} post 文章   */  downPostImages: function(post, callback) {    var self = this;    var async = node.async;     async.waterfall([      self.wrapTask(self.mkdir, self, [post]),      self.wrapTask(self.getPost),      self.wrapTask(self.parsePost),      self.wrapTask(self.downImages),    ], callback);  },   mkdir: function(post, callback) {    var path = node.path;    var url = node.url.parse(post.loc);    post.dir = path.join(this.options.saveTo, path.basename(url.pathname));     console.log('準備創建目錄:%s', post.dir);    if (node.fs.existsSync(post.dir)) {      callback(null, post);      console.log('目錄:%s 已經存在', post.dir);      return;    }    node.mkdirp(post.dir, function(err) {      callback(err, post);      console.log('目錄:%s 創建成功', post.dir);    });  },   /**   * 獲取post內容   */  getPost: function(post, callback) {    console.log('開始請求頁面:%s', post.loc);    node.request(post.loc, function(err, res, body) {      if (!err) post.html = body;      callback(err, post);      console.log('請求頁面成功:%s', post.loc);    });  },   /**   * 解析post,并獲取post中的圖片列表   */  parsePost: function(post, callback) {    var $ = post.$ = node.cheerio.load(post.html);    post.images = $('.img')      .map(function() {return $(this).attr('bigimgsrc');})      .toArray();    callback(null, post);  },   /**   * 下載post圖片列表中的圖片   */  downImages: function(post, callback) {    console.log('發現%d張妹子圖片,準備開始下載...', post.images.length);    node.async.eachLimit(      post.images,      this.options.downLimit,      this.wrapTask(this.downImage, this, [post]),      callback    );  },   /**   * 下載單個圖片   */  downImage: function(post, imgsrc, callback) {    var url = node.url.parse(imgsrc);    var fileName = node.path.basename(url.pathname);    var toPath = node.path.join(post.dir, fileName);    console.log('開始下載圖片:%s,保存到:%s,文件名:%s', imgsrc, post.dir, fileName);    node.request(imgsrc)      .pipe(node.fs.createWriteStream(toPath))      .on('close', function() {        console.log('圖片下載成功:%s', imgsrc);        callback();      })      .on('error', callback);  }}; Me2SexImages.start();

以上所述就是本文的全部內容,希望大家能夠喜歡。

發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb
成人福利视频网| 羞羞色国产精品| 国自产精品手机在线观看视频| 伊人伊成久久人综合网小说| 日韩黄在线观看| 欧美俄罗斯性视频| 欧美老少做受xxxx高潮| 俺也去精品视频在线观看| 成人黄色片网站| 日韩欧美在线观看| 国产精品极品美女在线观看免费| 992tv成人免费影院| 国产mv久久久| zzjj国产精品一区二区| 麻豆一区二区在线观看| 欧美黄色www| 日韩中文字幕在线观看| 色青青草原桃花久久综合| 亚洲色图35p| 98精品国产自产在线观看| 欧美日韩另类字幕中文| 中文字幕精品在线视频| 久久精品国产综合| 日本视频久久久| 国产精品白嫩初高中害羞小美女| 69av在线播放| 久久精品免费电影| 亚洲精品之草原avav久久| 亚洲免费一级电影| 亚洲九九九在线观看| 97精品在线观看| 日本电影亚洲天堂| 91高清视频免费| 国产精品网站视频| 国产欧美精品va在线观看| 亚洲自拍偷拍第一页| 亚洲精品国产欧美| 日韩精品在线观看一区| 欧美裸身视频免费观看| 8050国产精品久久久久久| 狠狠久久亚洲欧美专区| 亚洲成人激情在线观看| 欧美日韩国产二区| 久久国产精品久久久久久| 中文字幕欧美精品日韩中文字幕| 欧美亚洲视频在线观看| 亚洲va国产va天堂va久久| 韩国一区二区电影| 国产欧美日韩精品丝袜高跟鞋| 欧美成人午夜免费视在线看片| 中日韩美女免费视频网站在线观看| 欧美成人亚洲成人| 欧美高清第一页| 欧美裸身视频免费观看| 在线精品国产欧美| 91精品国产综合久久香蕉最新版| 成人在线精品视频| 国产欧美日韩视频| 日韩大胆人体377p| 欧美激情久久久久| 精品久久久久久亚洲精品| 97色在线视频| 亚洲国产精品悠悠久久琪琪| 中文字幕日韩在线视频| 国产精品美乳一区二区免费| 精品视频9999| 欧美精品在线极品| 欧美激情精品久久久久久蜜臀| 热久久视久久精品18亚洲精品| 国产精品h片在线播放| 亚洲欧美日韩综合| 九九久久综合网站| 亚洲国内精品视频| 欧美乱人伦中文字幕在线| 亚洲国产日韩欧美在线图片| 欧美激情视频一区二区| 97超级碰碰碰久久久| 中文字幕亚洲专区| 亚洲国产成人av在线| 亚洲精品乱码久久久久久按摩观| 亚洲精品国产精品国产自| www.日韩av.com| 国产视频在线一区二区| 日韩在线视频一区| 国产精品第3页| 一本色道久久综合狠狠躁篇怎么玩| 尤物tv国产一区| 色偷偷av一区二区三区| 久久久久久国产精品美女| 欧美国产欧美亚洲国产日韩mv天天看完整| 海角国产乱辈乱精品视频| 亚洲精品一区二区三区不| 在线视频一区二区| 亚洲人成电影网站色www| 91在线观看免费网站| 欧美午夜精品在线| 性欧美长视频免费观看不卡| 欧美精品videossex性护士| 亚洲毛片在线免费观看| 国产精品久久久精品| 欧洲美女7788成人免费视频| 国产91在线播放精品91| 亚洲最新av在线| 日韩精品免费视频| 国内精品视频久久| 亚洲一区二区久久久| 一级做a爰片久久毛片美女图片| 亚洲精品理论电影| 欧美乱妇高清无乱码| 国产成人精品久久二区二区| 热久久免费国产视频| 亚洲欧美日韩一区在线| 欧美大荫蒂xxx| 欧美精品激情blacked18| 91精品国产一区| 久久伊人精品一区二区三区| 最近2019中文字幕mv免费看| 日韩av电影手机在线观看| 亚洲国产精品推荐| 国产成人鲁鲁免费视频a| 一区二区亚洲精品国产| 一区二区三区动漫| 91精品国产91久久久久久最新| 欧美有码在线观看视频| 裸体女人亚洲精品一区| 国产精品女主播视频| 久久久国产精品视频| 尤物yw午夜国产精品视频| 亚洲视频国产视频| 欧美最顶级丰满的aⅴ艳星| 97在线观看免费| 综合网中文字幕| 亚洲天堂视频在线观看| 国产亚洲精品久久久| 欧美在线观看日本一区| 91美女片黄在线观| 91精品国产综合久久久久久蜜臀| 国产精品久久久久久久久久| 欧美视频在线免费| 日韩人在线观看| 国产剧情日韩欧美| 色中色综合影院手机版在线观看| 欧美剧在线观看| 亚洲性无码av在线| 992tv成人免费视频| 国产精品毛片a∨一区二区三区|国| 欧美亚洲一级片| 久久久久久亚洲精品不卡| 亚洲字幕在线观看| 亚洲欧美一区二区精品久久久| 色一情一乱一区二区| 成人天堂噜噜噜| 91影视免费在线观看| 亚洲xxxx做受欧美| 国产亚洲一区二区在线| 奇门遁甲1982国语版免费观看高清| 日韩欧美第一页| 精品视频在线导航| 久久久国产一区二区| 久久69精品久久久久久久电影好| 亚洲精品国精品久久99热一| www欧美xxxx| 欧美人与物videos| 美日韩在线视频|