亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb

首頁 > 開發 > JS > 正文

node實現爬蟲的幾種簡易方式

2024-05-06 16:54:24
字體:
來源:轉載
供稿:網友

說到爬蟲大家可能會覺得很NB的東西,可以爬小電影,羞羞圖,沒錯就是這樣的。在node爬蟲方面,我也是個新人,這篇文章主要是給大家分享幾種實現node

爬蟲的方式。第一種方式,采用node,js中的 superagent+request + cheerio。cheerio是必須的,它相當于node版的jQuery,用過jQuery的同學會非常容易上手。它

主要是用來獲取抓取到的頁面元素和其中的數據信息。superagent是node里一個非常方便的、輕量的、漸進式的第三方客戶端請求代理模塊,用他來請求目標頁面。

node中,http模塊也可作為客戶端使用(發送請求),第三方模塊request對其使用方法進行了封裝,操作更方便。以下是三者的引入方法:

node,爬蟲

接下來我們開始請求要爬取的目標頁面。申明目標頁面比如新浪網首頁:

node,爬蟲

如新浪首頁部分代碼

  node,爬蟲

通過superagent請求目標網站,獲取到網站內容,通過cheerio.load方法引入要解析的html
cheerio中的有關DOM操作的方式

node,爬蟲

此處采用 .each(function(index,element){...})方式遍歷需要的元素

node,爬蟲

返回結果如下:

node,爬蟲

若要將文字內容存儲可采用以下方式:

引入fs模塊const fs= require("fs")

引入path模塊 const path=require("path")

Node.js 內置的fs模塊就是文件系統模塊,負責讀寫文件。和所有其他JS模塊不同的是,fs模塊同時提供了異步和同步的方法。

在上述方法中調用存儲文字內容mkdirs方法

//存放數據mkdirs('./content2',saveContent); (注: content2是新建文件名;saveContent是回調函數)

node,爬蟲

文字內容最終將存儲在content2中的content.txt文件中

若想存儲圖片可采用以下方式:

node,爬蟲

第二種方式: 使用Nightmare自動化測試工具。

這里介紹一下nightmare工具的用途:

Electron可以讓你使用純JavaScript調用Chrome豐富的原生的接口來創造桌面應用。你可以把它看作一個專注于桌面應用的Node.js的變體,而不是Web服務器。

其基于瀏覽器的應用方式可以極方便的做各種響應式的交互

Nightmare是一個基于Electron的框架,針對Web自動化測試和爬蟲,因為其具有跟PlantomJS一樣的自動化測試的功能可以在頁面上模擬用戶的行為觸發一些異步數據加載,

也可以跟Request庫一樣直接訪問URL來抓取數據,并且可以設置頁面的延遲時間,所以無論是手動觸發腳本還是行為觸發腳本都是輕而易舉的。

const Nightmare=require("nightmare") //自動化測試包 ,處理動態頁面const nightmare=Nightmare({show: true}) show:true時,運行node可以顯示內置模擬瀏覽器

node,爬蟲

運行結束后,會在image2中存儲下載的圖片。

好了,文章就到這里了,有什么問題歡迎小伙伴指正。

總結

以上就是這篇文章的全部內容了,希望本文的內容對大家的學習或者工作具有一定的參考學習價值,謝謝大家對VeVb武林網的支持。


注:相關教程知識閱讀請移步到JavaScript/Ajax教程頻道。
發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb
欧美猛少妇色xxxxx| 久久久久国色av免费观看性色| 日韩亚洲欧美中文在线| 国产一区玩具在线观看| 91国产精品电影| 国产在线a不卡| 91伊人影院在线播放| 亚洲欧美日韩一区二区三区在线| 久久精品国产综合| 亚洲天堂av综合网| 亚洲欧美日韩精品久久亚洲区| 欧美午夜无遮挡| 97超碰国产精品女人人人爽| 亚洲精品999| 国产精品视频自在线| 欧美精品久久久久久久免费观看| 亚洲精品99999| 亚洲精品免费av| 亚洲黄色成人网| 69**夜色精品国产69乱| 国产福利精品av综合导导航| 国产69精品久久久久久| 成人羞羞国产免费| 俺也去精品视频在线观看| 国产日韩在线看片| 亚洲女人天堂av| 2019亚洲男人天堂| 国产日韩精品在线观看| 91wwwcom在线观看| 国自在线精品视频| 一夜七次郎国产精品亚洲| 久久这里只有精品视频首页| 亚洲午夜未满十八勿入免费观看全集| 久久久www成人免费精品张筱雨| 国产成人精品av在线| 国产91精品黑色丝袜高跟鞋| 国产精品高潮呻吟久久av野狼| 国产精品精品久久久| 俺也去精品视频在线观看| 日韩国产高清污视频在线观看| 69av成年福利视频| 精品女厕一区二区三区| 欧美精品久久久久a| 久久精品美女视频网站| 欧美成人免费一级人片100| 精品久久久久久久久久久| 成人写真福利网| 777午夜精品福利在线观看| 欧美性xxxxx极品| 日韩在线视频二区| 欧美日韩国产精品一区| 高潮白浆女日韩av免费看| 亚洲成人精品av| 最好看的2019年中文视频| 久久不射电影网| 91精品国产综合久久香蕉最新版| 亚洲第一中文字幕| 九九热这里只有精品6| 国产婷婷成人久久av免费高清| 日本高清视频精品| 欧美激情在线有限公司| 欧美日韩国产综合视频在线观看中文| 日av在线播放中文不卡| www.色综合| 欧美日韩国产精品专区| 久久免费视频网站| 久久人人爽人人爽爽久久| 少妇久久久久久| 精品久久久久久亚洲国产300| 亚洲一区二区久久久久久久| 国产97在线亚洲| 国产成人精品在线观看| 久久久久久久91| 日韩免费观看视频| 九九九热精品免费视频观看网站| 国产精品6699| 久久91亚洲精品中文字幕奶水| 日韩免费av一区二区| 91精品国产91久久久久久不卡| 久久久久免费精品国产| 欧美国产日本在线| 欧美老女人xx| 国产日韩欧美91| 国产日韩欧美一二三区| 国产亚洲精品va在线观看| 亚洲视频视频在线| 亚洲电影免费观看高清完整版在线| 韩国美女主播一区| 欧美激情videos| 亚洲成人黄色在线| 日韩久久免费视频| 国产午夜精品一区理论片飘花| 久久这里只有精品视频首页| 欧美老妇交乱视频| 国产精品电影一区| 久久久久国产一区二区三区| 欧美精品xxx| 都市激情亚洲色图| 成人免费网站在线观看| 日韩在线视频免费观看高清中文| 精品久久久久久国产| 最近的2019中文字幕免费一页| 国产精品wwwwww| 国产精品日韩在线一区| 久久精品国产精品亚洲| 国产精品人成电影| 亚洲天堂一区二区三区| 久久久视频精品| 亚洲精品国产综合久久| 国产视频精品久久久| 久久久国产精品亚洲一区| 狠狠色狠狠色综合日日五| 国产欧美精品xxxx另类| 欧美精品做受xxx性少妇| 国产精品第七十二页| 福利精品视频在线| 午夜精品一区二区三区视频免费看| 国产成人在线一区| 国产精品久久在线观看| 一区二区三欧美| 97香蕉久久夜色精品国产| 午夜免费在线观看精品视频| 久久亚洲成人精品| 国产精品久久久久免费a∨| 97精品久久久| 久久精品影视伊人网| 欧美一级视频一区二区| 66m—66摸成人免费视频| 国产精品av网站| 久久香蕉精品香蕉| 亚洲影视九九影院在线观看| 另类少妇人与禽zozz0性伦| 国产精品中文久久久久久久| 日韩综合中文字幕| 国产91精品高潮白浆喷水| 亚洲福利视频在线| 欧美午夜视频一区二区| 国产精品亚洲美女av网站| 国产成人精品网站| 国产69精品久久久久9999| 欧美在线免费视频| 日韩一区二区精品视频| 姬川优奈aav一区二区| 亚洲人成电影在线观看天堂色| 日本伊人精品一区二区三区介绍| 欧美一区二粉嫩精品国产一线天| 亚洲男人第一网站| 日韩国产精品一区| 国产视频精品免费播放| 日韩av在线直播| 91亚洲人电影| 伊人激情综合网| 国模叶桐国产精品一区| 在线播放国产一区中文字幕剧情欧美| 久久久久亚洲精品成人网小说| 日韩欧美亚洲国产一区| 97香蕉超级碰碰久久免费软件| 亚洲成av人影院在线观看| 国产精品偷伦视频免费观看国产| 欧美福利视频在线| 成人久久一区二区| 26uuu国产精品视频| 日韩av中文在线| 日韩中文字幕亚洲|