亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb

首頁 > 開發 > JS > 正文

深入理解Puppeteer的入門教程和實踐

2024-05-06 16:48:46
字體:
來源:轉載
供稿:網友

出現的背景

Chrome59(linux、macos)、 Chrome60(windows)之后,Chrome自帶headless(無界面)模式很方便做自動化測試或者爬蟲。但是如何和headless模式的Chrome交互則是一個問題。通過啟動Chrome時的命令行參數僅能實現簡易的啟動時初始化操作。Selenium、Webdriver等是一種解決方案,但是往往依賴眾多,不夠扁平。

Puppeteer

Puppeteer是谷歌官方出品的一個通過DevTools協議控制headless Chrome的Node庫。可以通過Puppeteer的提供的api直接控制Chrome模擬大部分用戶操作來進行UI Test或者作為爬蟲訪問頁面來收集數據。

環境和安裝

Puppeteer本身依賴6.4以上的Node,但是為了異步超級好用的async/await,推薦使用7.6版本以上的Node。另外headless Chrome本身對服務器依賴的庫的版本要求比較高,centos服務器依賴偏穩定,v6很難使用headless Chrome,提升依賴版本可能出現各種服務器問題(包括且不限于無法使用ssh),最好使用高版本服務器。
Puppeteer因為是一個npm的包,所以安裝很簡單:

npm i puppeteer

或者

yarn add puppeteer

Puppeteer安裝時自帶一個最新版本的Chromium,可以通過設置環境變量或者npm config中的PUPPETEER_SKIP_CHROMIUM_DOWNLOAD跳過下載。如果不下載的話,啟動時可以通過puppeteer.launch([options])配置項中的executablePath指定Chromium的位置。

使用和例子

Puppeteer類似其他框架,通過操作Browser實例來操作瀏覽器作出相應的反應。

const puppeteer = require('puppeteer');(async () => { const browser = await puppeteer.launch(); const page = await browser.newPage(); await page.goto('http://rennaiqian.com'); await page.screenshot({path: 'example.png'}); await page.pdf({path: 'example.pdf', format: 'A4'}); await browser.close();})();

上述代碼通過puppeteer的launch方法生成了一個browser的實例,對應于瀏覽器,launch方法可以傳入配置項,比較有用的是在本地調試時傳入{headless:false}可以關閉headless模式。

const browser = await puppeteer.launch({headless:false})

browser.newPage方法可以打開一個新選項卡并返回選項卡的實例page,通過page上的各種方法可以對頁面進行常用操作。上述代碼就進行了截屏和打印pdf的操作。
一個很強大的方法是page.evaluate(pageFunction, ...args),可以向頁面注入我們的函數,這樣就有了無限可能

const puppeteer = require('puppeteer');(async () => { const browser = await puppeteer.launch(); const page = await browser.newPage(); await page.goto('http://rennaiqian.com'); // Get the "viewport" of the page, as reported by the page. const dimensions = await page.evaluate(() => {  return {   width: document.documentElement.clientWidth,   height: document.documentElement.clientHeight,   deviceScaleFactor: window.devicePixelRatio  }; }); console.log('Dimensions:', dimensions); await browser.close();})();

需要注意的是evaluate方法中是無法直接使用外部的變量的,需要作為參數傳入,想要獲得執行的結果也需要return出來。因為是一個開源一個多月的項目,現在項目很活躍,所以使用時自行查找api才能保證參數、使用方法不會錯。

調試技巧

1.關掉無界面模式,有時查看瀏覽器顯示的內容是很有用的。使用以下命令可以啟動完整版瀏覽器:

const browser = await puppeteer.launch({headless: false})

2.減慢速度,slowMo選項以指定的毫秒減慢Puppeteer的操作。這是另一個看到發生了什么的方法:

const browser = await puppeteer.launch({ headless:false, slowMo:250});

3.捕獲console的輸出,通過監聽console事件。在page.evaluate里調試代碼時這也很方便:

page.on('console', msg => console.log('PAGE LOG:', ...msg.args));await page.evaluate(() => console.log(`url is ${location.href}`));

4.啟動詳細日志記錄,所有公共API調用和內部協議流量都將通過puppeteer命名空間下的debug模塊進行記錄

 # Basic verbose logging env DEBUG="puppeteer:*" node script.js # Debug output can be enabled/disabled by namespace env DEBUG="puppeteer:*,-puppeteer:protocol" node script.js # everything BUT protocol messages env DEBUG="puppeteer:session" node script.js # protocol session messages (protocol messages to targets) env DEBUG="puppeteer:mouse,puppeteer:keyboard" node script.js # only Mouse and Keyboard API calls # Protocol traffic can be rather noisy. This example filters out all Network domain messages env DEBUG="puppeteer:*" env DEBUG_COLORS=true node script.js 2>&1 | grep -v '"Network'

爬蟲實踐

很多網頁通過user-agent來判斷設備,可以通過page.emulate(options)來進行模擬。options有兩個配置項,一個為userAgent,另一個為viewport可以設置寬度(width)、高度(height)、屏幕縮放(deviceScaleFactor)、是否是移動端(isMobile)、有無touch事件(hasTouch)。

const puppeteer = require('puppeteer');const devices = require('puppeteer/DeviceDescriptors');const iPhone = devices['iPhone 6'];puppeteer.launch().then(async browser => { const page = await browser.newPage(); await page.emulate(iPhone); await page.goto('https://www.example.com'); // other actions... await browser.close();});

上述代碼則模擬了iPhone6訪問某網站,其中devices是puppeteer內置的一些常見設備的模擬參數。

很多網頁需要登錄,有兩種解決方案:

1、讓puppeteer去輸入賬號密碼

常用方法:點擊可以使用page.click(selector[, options])方法,也可以選擇聚焦page.focus(selector)。
輸入可以使用page.type(selector, text[, options])輸入指定的字符串,還可以在options中設置delay緩慢輸入更像真人一些。也可以使用keyboard.down(key[, options])來一個字符一個字符的輸入。

2、如果是通過cookie判斷登錄狀態的可以通過page.setCookie(...cookies),想要維持cookie可以定時訪問。

Tip:有些網站需要掃碼,但是相同域名的其他網頁卻有登錄,就可以嘗試去可以登錄的網頁登錄完利用cookie訪問跳過掃碼。

簡單例子

const puppeteer = require('puppeteer');(async () => { const browser = await puppeteer.launch({headless: false}); const page = await browser.newPage(); await page.goto('https://baidu.com'); await page.type('#kw', 'puppeteer', {delay: 100}); page.click('#su') await page.waitFor(1000); const targetLink = await page.evaluate(() => {  return [...document.querySelectorAll('.result a')].filter(item => {   return item.innerText && item.innerText.includes('Puppeteer的入門和實踐')  }).toString() }); await page.goto(targetLink); await page.waitFor(1000); browser.close();})()

以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持VeVb武林網。


注:相關教程知識閱讀請移步到JavaScript/Ajax教程頻道。
發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb
精品亚洲永久免费精品| 欧美夫妻性生活视频| 日韩国产精品视频| 亚洲免费精彩视频| 日韩精品一区二区三区第95| 日韩精品在线视频观看| 国产精品久久久久不卡| 狠狠久久五月精品中文字幕| 国产精品专区一| 国产日韩在线看片| 国产午夜精品视频免费不卡69堂| 欧美日韩成人网| 国产精品草莓在线免费观看| 欧美激情乱人伦一区| 国产精品入口夜色视频大尺度| 欧美日韩国产黄| 欧美精品videosex牲欧美| 国产欧美日韩亚洲精品| 亚洲社区在线观看| 亚洲视频电影图片偷拍一区| 亚洲国产精品久久久久秋霞不卡| 国产美女高潮久久白浆| 国产精品视频午夜| 国产精品国模在线| 久久综合九色九九| 久久影视三级福利片| 国产中文字幕91| 国产日本欧美在线观看| 久久大大胆人体| 国产日韩一区在线| 日本不卡视频在线播放| 精品国产一区二区在线| 97婷婷大伊香蕉精品视频| 久久久久久成人| 成人黄色av免费在线观看| 日韩在线免费视频| 黑人精品xxx一区| 欧美成人午夜激情视频| 欧美成人合集magnet| 亚洲午夜激情免费视频| 亚洲成色777777在线观看影院| 亚洲精品视频在线播放| 亚洲人在线观看| 亚洲片在线观看| 日本久久久久久久| 国产欧美在线视频| 日韩中文字幕不卡视频| 国产女精品视频网站免费| 日韩精品一区二区三区第95| 色香阁99久久精品久久久| 欧洲午夜精品久久久| 国产精品91免费在线| 亚洲一区二区三区在线免费观看| 午夜精品久久久99热福利| www国产亚洲精品久久网站| 国产精品嫩草影院一区二区| 久久国产精品视频| 91亚洲午夜在线| 久久这里只有精品视频首页| 亚洲一区二区久久久| 亚洲丁香婷深爱综合| 久久全国免费视频| 国产主播欧美精品| 欧美性猛交xxxx乱大交3| 日韩精品电影网| 奇米成人av国产一区二区三区| 日韩在线观看免费全集电视剧网站| 亚洲免费视频一区二区| 亚洲毛片在线观看| 国外成人在线视频| 精品动漫一区二区| 国产精品扒开腿做| 日韩精品中文字幕有码专区| 欧美日韩国产精品一区二区三区四区| 久久精品久久久久电影| 一本色道久久综合亚洲精品小说| 国产精品久久久久久av下载红粉| 亚洲女同性videos| 久久久久久久久久久久av| 亚洲色无码播放| 亚洲v日韩v综合v精品v| 久久久久久国产精品久久| 中文字幕精品av| 97色在线播放视频| 国产日韩欧美成人| 国产福利精品av综合导导航| 日韩成人高清在线| 亚洲欧洲成视频免费观看| 欧美高清视频在线观看| xxxxx成人.com| 日本亚洲欧洲色| 久久影视电视剧免费网站清宫辞电视| 欧美日在线观看| 日韩在线不卡视频| 国产一区二区三区日韩欧美| 国产综合福利在线| 国产精品嫩草影院一区二区| 国产精品白丝jk喷水视频一区| 亚洲国产精品中文| 国产成人精品av在线| 亚洲午夜激情免费视频| 九九九热精品免费视频观看网站| 亚洲最大成人在线| 欧美小视频在线| 成人av在线网址| 久久高清视频免费| 久久精品国产v日韩v亚洲| 亚洲欧美国产日韩天堂区| 在线播放国产一区中文字幕剧情欧美| 久久久久久久久久久亚洲| 国产精品老女人视频| 欧美视频精品一区| 欧美大秀在线观看| 久久精品99久久香蕉国产色戒| 91日韩在线播放| 成人妇女淫片aaaa视频| 国产精品27p| 亚洲午夜av久久乱码| 97**国产露脸精品国产| 2019中文字幕全在线观看| 亚洲人成电影在线播放| 九九久久久久99精品| 国产精品视频不卡| 成人国产精品久久久久久亚洲| 亚洲欧美国产精品久久久久久久| 亚洲精品一区久久久久久| 久久久伊人欧美| 68精品国产免费久久久久久婷婷| 九色91av视频| 日韩精品在线播放| 日韩有码片在线观看| 欧美电影免费在线观看| 在线色欧美三级视频| 日韩黄色av网站| 国产精品久久电影观看| 精品一区二区亚洲| 97国产精品免费视频| 亚洲精品电影久久久| 日韩av手机在线看| 九九精品视频在线观看| 日本亚洲欧美三级| 久久精品一区中文字幕| yw.139尤物在线精品视频| 精品少妇v888av| 国产99久久精品一区二区永久免费| 欧美中文字幕视频| 欧美日本亚洲视频| 国内久久久精品| 亚洲天堂久久av| 成人xxxxx| www.亚洲一区| 国产一区二区三区高清在线观看| 久久久久国产精品免费| 中文字幕欧美精品日韩中文字幕| 亚洲最大成人免费视频| 日韩精品免费一线在线观看| 不卡av电影院| 久久亚洲精品一区| 国产69精品久久久久久| 久久久女女女女999久久| 亚洲乱码国产乱码精品精天堂| 国产成人精品av在线| 怡红院精品视频| 国产精品久久综合av爱欲tv|