亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb

首頁 > 編程 > Python > 正文

Python 抓取動態網頁內容方案詳解

2020-02-23 06:16:58
字體:
來源:轉載
供稿:網友

用Python實現常規的靜態網頁抓取時,往往是用urllib2來獲取整個HTML頁面,然后從HTML文件中逐字查找對應的關鍵字。如下所示:

代碼如下:
import urllib2
url="http://mm.taobao.com/json/request_top_list.htm?type=0&page=1"
up=urllib2.urlopen(url)#打開目標頁面,存入變量up
cont=up.read()#從up中讀入該HTML文件
key1='<a href="http'#設置關鍵字1
key2="target"#設置關鍵字2
pa=cont.find(key1)#找出關鍵字1的位置
pt=cont.find(key2,pa)#找出關鍵字2的位置(從字1后面開始查找)
urlx=cont[pa:pt]#得到關鍵字1與關鍵字2之間的內容(即想要的數據)
print urlx

但是,在動態頁面中,所顯示的內容往往不是通過HTML頁面呈現的,而是通過調用js等方式從數據庫中得到數據,回顯到網頁上。以發改委網站上的“備案信息”(http://beian.hndrc.gov.cn/)為例,要抓取此頁面中的某些備案項目。例如“http://beian.hndrc.gov.cn/indexinvestment.jsp?id=162518”。

那么,在瀏覽器中打開此頁面:

相關信息都顯示的很全了,但是如果按照之前的辦法:

代碼如下:
up=urllib2.urlopen(url)
cont=up.read()

就抓取不到上述內容了。

我們查看一下這個頁面對應的源碼:

由源碼可以看出,這個《備案確認書》屬于“填空”形式的,HTML提供文字模板,js根據不同的id提供不同的變量,“填入”到文字模板中,形成了一個具體的《備案確認書》。所以單純抓取此HTML,只能得到一些文字模板,而無法得到具體內容。

那么,該如何找到那些具體內容呢?可以利用Chrome的“開發者工具”來尋找誰是真正的內容提供者。

打開Chrome瀏覽器,按下鍵盤F12即可呼出此工具。如下圖:

此時選中“Network”標簽,在地址欄中輸入此頁面“http://beian.hndrc.gov.cn/indexinvestment.jsp?id=162518”,瀏覽器會分析出此次響應的全過程,而紅框內的文件,就是此次響應中,瀏覽器和web后端的所有通信。

因為要獲得不同企業對應的不同信息,那么瀏覽器發送給服務器的請求里面一定會有一個和當前企業id有關的參數。

那么,參數是多少呢?URL上有,是“jsp?id=162518”,問號表示要調用參數,后面跟的是id號即是被調用的參數。而通過對這幾個文件的分析,很顯然,企業信息存在于“indexinvestment.action”文件中。

然而,雙擊打開此文件并不能獲得企業信息,而是一堆代碼。因為沒有對應的參數為它指明要顯示第幾號的信息。如圖:

發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb
日韩视频―中文字幕| 欧美精品videofree1080p| 日av在线播放中文不卡| 91精品视频在线免费观看| 亚洲国产天堂久久国产91| 欧美精品videosex牲欧美| 亚洲自拍欧美另类| 欧美一级大片在线观看| 日韩一区二区av| 久久天堂av综合合色| 久久久国产精品x99av| 欧美裸体男粗大视频在线观看| 欧美亚洲激情视频| 91视频免费网站| 欧美成人在线免费视频| 久久青草精品视频免费观看| 欧美孕妇毛茸茸xxxx| 欧美贵妇videos办公室| 欧美老女人性生活| 久久久中文字幕| 国内精品小视频| 日韩av色综合| 亚洲韩国青草视频| 久久久久久国产三级电影| 亚洲wwwav| 久久综合色影院| 国产中文欧美精品| 国产精品福利在线观看| 91丝袜美腿美女视频网站| 久久精品国产亚洲精品2020| 久久久久北条麻妃免费看| 日韩av免费在线看| 国模视频一区二区三区| 国产精品人成电影| 久久久精品国产| 日韩av在线网站| 国产精品久久国产精品99gif| 国产日本欧美一区二区三区在线| 日韩国产欧美区| 国产美女精彩久久| 国产精品va在线播放我和闺蜜| 日韩av观看网址| 97精品一区二区视频在线观看| 国产精品极品美女在线观看免费| 成人亲热视频网站| 国产噜噜噜噜噜久久久久久久久| 欧美性xxxx极品hd满灌| 国产精品一区二区三区免费视频| www.久久久久久.com| 国产欧美一区二区三区在线| 两个人的视频www国产精品| 久久久噜噜噜久久| 欧美成人在线免费| 欧美国产一区二区三区| 国产精品视频区| 欧美性猛交xxxx乱大交3| 日本韩国欧美精品大片卡二| www.久久久久| 亚洲一区二区三区xxx视频| 国产精品久久久久国产a级| 在线观看日韩视频| 欧美中在线观看| 91黄色8090| 隔壁老王国产在线精品| 久久国产精品偷| 久久露脸国产精品| 欧美另类第一页| 欧美一区深夜视频| 日韩高清免费观看| 欧美性猛交xxxx乱大交极品| 97视频com| 国产视频精品在线| 精品视频中文字幕| 欧美性猛交xxxx富婆弯腰| 亚洲一区二区国产| 在线播放日韩精品| 亚洲高清久久网| 在线视频日本亚洲性| 亚洲综合精品一区二区| 日韩视频免费在线观看| 国产精品www色诱视频| 欧美黑人一区二区三区| 国内外成人免费激情在线视频网站| 91高潮在线观看| 狠狠躁夜夜躁人人爽超碰91| 91沈先生作品| 日韩在线国产精品| 国产精品福利观看| 国产免费成人av| 国产精品视频网站| 欧美一区亚洲一区| 日产日韩在线亚洲欧美| 国产精品久久久av久久久| www欧美xxxx| 日韩中文在线不卡| 狠狠色狠狠色综合日日五| 亚洲电影免费观看高清完整版| 久久精品国产亚洲| 一区二区国产精品视频| 亚洲精品欧美极品| 亚洲欧美日韩国产中文| 日韩在线免费av| 亚洲欧美中文字幕在线一区| 久久久久久久久久久av| 日本久久久a级免费| 青青在线视频一区二区三区| 亚洲精品乱码久久久久久按摩观| 日韩欧美在线免费观看| 最新69国产成人精品视频免费| 97高清免费视频| 国产精品网站入口| 最好看的2019的中文字幕视频| 亚洲电影中文字幕| 亚洲视频国产视频| 国产成人av在线| 国产精品入口免费视频一| 精品久久久久久久久久国产| 久久久天堂国产精品女人| 国产精品久久久久国产a级| 国产精品视频成人| www.亚洲天堂| 久久精品精品电影网| 高清欧美电影在线| 国产不卡精品视男人的天堂| 97国产精品视频人人做人人爱| 欧美激情视频一区| 日韩黄色在线免费观看| 国产精品99久久久久久白浆小说| 成人免费网站在线| 亚洲欧洲在线播放| 综合国产在线观看| 欧美视频精品一区| 欧美国产日本高清在线| 日韩hd视频在线观看| 亚洲日韩欧美视频| 97超视频免费观看| 亚洲精品wwww| 欧美怡红院视频一区二区三区| 国产一区私人高清影院| 国产精品视频26uuu| 国内成人精品一区| 5278欧美一区二区三区| 欧美性猛交xxxx乱大交蜜桃| 66m—66摸成人免费视频| 黑人精品xxx一区| 欧美性xxxx18| 日韩黄色在线免费观看| 96pao国产成视频永久免费| 亚洲乱码一区二区| 精品国产网站地址| 欧美一区二区视频97| 欧美精品久久久久久久| 欧美日韩午夜视频在线观看| 久久高清视频免费| 97人人做人人爱| 日本免费在线精品| 一区二区成人av| 亚洲国产私拍精品国模在线观看| 国产在线98福利播放视频| 成人午夜一级二级三级| www.久久久久| 日本高清视频一区| 亚洲字幕在线观看| 欧美极品美女电影一区|