亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb

首頁 > 編程 > Python > 正文

Scrapy使用的基本流程與實例講解

2020-02-15 23:18:23
字體:
來源:轉載
供稿:網友

前面已經介紹過如何創建scrapy的項目,和對項目中的文件功能的基本介紹。

這次,就來談談使用的基本流程:

(1)首先第一點,打開終端,找到自己想要把scrapy工程創建的路徑。這里,我是建立在桌面上的。打開終端,輸入:
cd Desktop 就進入了桌面文件存儲位置。

(2)創建scrapy工程。終端輸入:scrapy startproject image

終端輸入:cd image

繼續輸入:scrapy genspider imageSpider pic.netbian.com

(3)在pycharm中打開剛才桌面的文件,進入settings.py設置爬蟲規則??梢詫⒁巹t直接注釋掉,或者改為False。

(4) 回到爬蟲文件。

更改start_url,將爬蟲默認的第一個網址更改為需要爬取的網站網址即可。

(5)下面就可以爬取數據了,這里選擇了下載圖片。

爬取完數據之后,要在存儲數據的items.py文件中傳輸給管道

接下來在爬蟲文件中引入管道模型。

from ..items import ImageItem

在爬蟲文件中的parse函數中使用在items.py文件中創建的數據模型。

item = ImageItem()

注意點:

有時候在終端輸出的時候,如果返回內容是scrapy.selector ,如果對象類型是scrapy.selector,那么這個對象可以被繼續迭代,也可以用xpath繼續尋找里面的內容。

如果終端遇到這個問題:

# ValueError:Missing scheme in request url:h

那么就需要使用extract()將xpath對象轉化成列表對象。而列表對象,可以繼續被迭代,但是不可以使用xpath來尋找里面的對象。

在下載之前還需要在settings.py文件中,對圖片下載的路徑和存儲位置進行設置。

下面附代碼如下。僅有爬蟲文件的代碼:

# -*- coding: utf-8 -*-import scrapyfrom ..items import ImageItemclass ImagespiderSpider(scrapy.Spider):  name = 'imageSpider'  allowed_domains = ['pic.netbian.com']  start_urls = ['http://pic.netbian.com/4kmeinv/']   def parse(self, response):    img_list = response.xpath('//ul[@class="clearfix"]/li/a/img/@src')    # 找到了很多src屬性值,現在進行遍歷,分別使用每一個    for img in img_list:      # 使用在items.py中創建的數據模型item      item = ImageItem()      print('--------------------')      img = img.extract()      # 拼接圖片的url,得到完整的下載地址      src = 'http://pic.netbian.com' +img      # 將得到的數據放入到模型中      # 因為是下載地址,所以要用列表包起來,否則會報錯。      item['src'] = [src]      yield item    next_url = response.xpath('//div[@class="page"]/a[text()="下一頁"]/@href').extract()    print('*****************************************************************')    if len(next_url)!=0:      url = 'http://pic.netbian.com'+next_url[0]      # 將url傳給scrapy.Request 得到的結果繼續用self.parse進行處理      yield scrapy.Request(url=url,callback=self.parse)            
發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb
精品国产一区二区三区久久狼5月| 午夜精品福利在线观看| 色妞色视频一区二区三区四区| 丝袜情趣国产精品| 国产欧美 在线欧美| 亚洲天堂成人在线视频| 国产福利视频一区二区| 亚洲电影在线观看| 日韩激情av在线免费观看| 成人免费视频在线观看超级碰| 亚洲影影院av| 丝袜一区二区三区| 久久成人亚洲精品| 亚洲第一av网站| 日韩va亚洲va欧洲va国产| 成人午夜在线影院| 91手机视频在线观看| 亚洲国产精品电影| 17婷婷久久www| 日韩高清电影免费观看完整| 日本亚洲精品在线观看| 亚洲电影免费观看高清| 欧美肥臀大乳一区二区免费视频| 亚洲国产私拍精品国模在线观看| 国产成人97精品免费看片| 国产精品7m视频| 亚洲女人天堂色在线7777| 国产美女搞久久| www日韩中文字幕在线看| 欧美激情一区二区三区成人| 日韩精品在线观看视频| 亚洲欧美一区二区三区久久| 欧美综合在线第二页| 久久视频中文字幕| 91性高湖久久久久久久久_久久99| 成人日韩av在线| 中文字幕一精品亚洲无线一区| 久久精品99无色码中文字幕| 人妖精品videosex性欧美| 亚洲国产婷婷香蕉久久久久久| 亚洲男人第一av网站| 伊人久久免费视频| 57pao成人永久免费视频| 午夜精品久久久久久久男人的天堂| 在线播放国产一区二区三区| 国产综合久久久久| 欧美日韩亚洲系列| 久热99视频在线观看| 精品久久久久久久中文字幕| 久久亚洲精品一区| 亚洲福利视频在线| 亚洲一区二区三区成人在线视频精品| 欧美专区在线视频| 亚洲国内高清视频| 国产精品久久久久久久av大片| 91社区国产高清| 亚洲精品视频免费在线观看| 国产日本欧美一区| 亚洲精品videossex少妇| 国产日韩欧美在线看| 91精品免费久久久久久久久| 亚洲精品一区av在线播放| 亚洲新声在线观看| 欧美巨猛xxxx猛交黑人97人| 久久综合久中文字幕青草| 国产精品精品国产| 日本久久久久亚洲中字幕| 国产亚洲一区精品| 国产精品最新在线观看| 欧美精品在线免费| 亚洲免费一在线| 国产亚洲精品成人av久久ww| 欧美午夜丰满在线18影院| 成人xxxx视频| 97av在线影院| 亚洲激情在线观看视频免费| 国产精品久久二区| 欧美韩日一区二区| 欧美午夜影院在线视频| 福利视频导航一区| 亚洲欧美日韩国产精品| 黑人巨大精品欧美一区二区免费| 久久久久中文字幕| 国产婷婷97碰碰久久人人蜜臀| 97视频在线观看免费高清完整版在线观看| 欧美交受高潮1| 91av在线看| 亚洲欧美国产视频| 亚洲色图欧美制服丝袜另类第一页| 欧美日韩国产精品一区| 国产精品av在线播放| 久久久久成人网| 亚洲热线99精品视频| www国产亚洲精品久久网站| 国精产品一区一区三区有限在线| 成人免费视频xnxx.com| 成人国内精品久久久久一区| 久久久国产精品x99av| 日韩精品久久久久久福利| 久久久999国产| 国产精品夜间视频香蕉| 8050国产精品久久久久久| 日韩精品免费视频| 欧美一级在线亚洲天堂| 久久视频国产精品免费视频在线| 久久久久久久电影一区| 97视频com| 久久久精品一区二区三区| 国产日韩av在线播放| 国产精品久久久久久久午夜| 日韩免费av一区二区| 国产精品一区二区在线| 欧美午夜丰满在线18影院| 欧美日韩综合视频| 欧美丝袜第一区| 精品国产拍在线观看| 日韩高清电影免费观看完整| 亚洲精品aⅴ中文字幕乱码| 国产中文字幕91| 欧美性猛交xxxx乱大交蜜桃| 国产精品视频地址| 欧美性猛交99久久久久99按摩| 欧洲成人在线观看| 国产视频丨精品|在线观看| 国产亚洲激情视频在线| 久久精品成人欧美大片| 美日韩丰满少妇在线观看| 国产mv久久久| 亚洲欧美日本伦理| 欧美激情a∨在线视频播放| 日韩欧美主播在线| 久久精品国产99国产精品澳门| 欧美亚洲激情视频| yellow中文字幕久久| 日韩亚洲综合在线| 久久精品国产亚洲精品| 成人国产精品色哟哟| 久久色在线播放| 精品久久香蕉国产线看观看gif| 亚洲福利视频免费观看| 亚洲最大的免费| 性欧美在线看片a免费观看| 免费av一区二区| 精品一区二区亚洲| 久久久亚洲精品视频| 日韩在线国产精品| 国产v综合ⅴ日韩v欧美大片| 精品一区二区三区三区| 亚洲欧美日韩在线高清直播| 欧美日韩在线免费观看| 日韩精品在线播放| 97成人超碰免| 91伊人影院在线播放| 久久影院资源网| 国产精品高潮呻吟久久av无限| 91av在线不卡| 欧美电影免费观看高清完整| 欧美视频免费在线| 欧美自拍视频在线| 国产精品久久久精品| 91精品久久久久久久久久久| 久久69精品久久久久久久电影好| 欧美巨乳美女视频| 亚洲天堂色网站|