[轉載]教你分分鐘學會用python爬蟲框架Scrapy爬取心目中的女神

Scrapy，Python開發的一個快速,高層次的屏幕抓取和web抓取框架，用於抓取web站點並從頁面中提取結構化的數據。Scrapy用途廣泛，可以用於數據挖掘、監測和自動化測試。

Scrapy吸引人的地方在於它是一個框架，任何人都可以根據需求方便的修改。它也提供了多種類型爬蟲的基類，如BaseSpider、sitemap爬蟲等，最新版本又提供了web2.0爬蟲的支持。

Scratch，是抓取的意思，這個Python的爬蟲框架叫Scrapy，大概也是這個意思吧，就叫它：小刮刮吧。

Scrapy 使用了 Twisted非同步網路庫來處理網路通訊。整體架構大致如下

Scrapy主要包括了以下組件：

• 引擎(Scrapy) 用來處理整個系統的數據流處理, 觸發事務(框架核心)
• 調度器(Scheduler) 用來接受引擎發過來的請求, 壓入隊列中, 並在引擎再次請求的時候返回. 可以想像成一個URL（抓取網頁的網址或者說是鏈接）的優先隊列, 由它來決定下一個要抓取的網址是什麼, 同時去除重複的網址
• 下載器(Downloader) 用於下載網頁內容, 並將網頁內容返回給蜘蛛(Scrapy下載器是建立在twisted這個高效的非同步模型上的)
• 爬蟲(Spiders) 爬蟲是主要幹活的, 用於從特定的網頁中提取自己需要的信息, 即所謂的實體(Item)。用戶也可以從中提取出鏈接,讓Scrapy繼續抓取下一個頁面
• 項目管道(Pipeline) 負責處理爬蟲從網頁中抽取的實體，主要的功能是持久化實體、驗證實體的有效性、清除不需要的信息。當頁面被爬蟲解析後，將被發送到項目管道，並經過幾個特定的次序處理數據。
• 下載器中間件(Downloader Middlewares) 位於Scrapy引擎和下載器之間的框架，主要是處理Scrapy引擎與下載器之間的請求及響應。
• 爬蟲中間件(Spider Middlewares) 介於Scrapy引擎和爬蟲之間的框架，主要工作是處理蜘蛛的響應輸入和請求輸出。
• 調度中間件(Scheduler Middewares) 介於Scrapy引擎和調度之間的中間件，從Scrapy引擎發送到調度的請求和響應。

Scrapy運行流程大概如下：

1. 引擎從調度器中取出一個鏈接(URL)用於接下來的抓取
2. 引擎把URL封裝成一個請求(Request)傳給下載器
3. 下載器把資源下載下來，並封裝成應答包(Response)
4. 爬蟲解析Response
5. 解析出實體（Item）,則交給實體管道進行進一步的處理
6. 解析出的是鏈接（URL）,則把URL交給調度器等待抓取

一、安裝

因為python3並不能完全支持Scrapy，因此為了完美運行Scrapy，我們使用python2.7來編寫和運行Scrapy。

pip install Scrapyn

註：windows平台需要依賴pywin32，請根據自己系統32/64位選擇下載安裝，https://sourceforge.net/projects/pywin32/

其它可能依賴的安裝包：lxml-3.6.4-cp27-cp27m-win_amd64.whl，VCForPython27.msi百度下載即可

二、基本使用

1、創建項目

運行命令:

scrapy startproject p1（your_project_name）n

2.自動創建目錄的結果：

文件說明：

• scrapy.cfg 項目的配置信息，主要為Scrapy命令行工具提供一個基礎的配置信息。（真正爬蟲相關的配置信息在settings.py文件中）
• items.py 設置數據存儲模板，用於結構化數據，如：Django的Model
• pipelines 數據處理行為，如：一般結構化的數據持久化
• settings.py 配置文件，如：遞歸的層數、並發數，延遲下載等
• spiders 爬蟲目錄，如：創建文件，編寫爬蟲規則

注意：一般創建爬蟲文件時，以網站域名命名

3、編寫爬蟲

在spiders目錄中新建 xiaohuar_spider.py 文件

示例代碼：

#!/usr/bin/env pythonn# -*- coding:utf-8 -*-nimport scrapynnclass XiaoHuarSpider(scrapy.spiders.Spider):nname = "xiaohuar"nallowed_domains = ["xiaohuar.com"]nstart_urls = [n"http://www.xiaohuar.com/hua/",n]nndef parse(self, response):n# print(response, type(response))n# from scrapy.http.response.html import HtmlResponsen# print(response.body_as_unicode())nncurrent_url = response.url #爬取時請求的urlnbody = response.body #返回的htmlnunicode_body = response.body_as_unicode()#返回的html unicode編碼n

備註：

• 1.爬蟲文件需要定義一個類，並繼承scrapy.spiders.Spider
• 2.必須定義name，即爬蟲名，如果沒有name，會報錯。因為源碼中是這樣定義的：

• 3.編寫函數parse，這裡需要注意的是，該函數名不能改變，因為Scrapy源碼中默認callback函數的函數名就是parse；
• 4.定義需要爬取的url，放在列表中，因為可以爬取多個url，Scrapy源碼是一個For循環，從上到下爬取這些url，使用生成器迭代將url發送給下載器下載url的html。源碼截圖：

4、運行

進入p1目錄，運行命令

scrapy crawl xiaohau --nologn

格式：scrapy crawl+爬蟲名 –nolog即不顯示日誌

5.scrapy查詢語法：

當我們爬取大量的網頁，如果自己寫正則匹配，會很麻煩，也很浪費時間，令人欣慰的是，scrapy內部支持更簡單的查詢語法，幫助我們去html中查詢我們需要的標籤和標籤內容以及標籤屬性。下面逐一進行介紹：

• 查詢子子孫孫中的某個標籤(以div標籤為例)：//div
• 查詢兒子中的某個標籤(以div標籤為例)：/div
• 查詢標籤中帶有某個class屬性的標籤：//div[@class=』c1′]即子子孫孫中標籤是div且class=『c1』的標籤
• 查詢標籤中帶有某個class=『c1』並且自定義屬性name=『alex』的標籤：//div[@class=』c1′][@name=』alex』]
• 查詢某個標籤的文本內容：//div/span/text() 即查詢子子孫孫中div下面的span標籤中的文本內容
• 查詢某個屬性的值（例如查詢a標籤的href屬性）：//a/@href

示例代碼：

def parse(self, response):n # 分析頁面n # 找到頁面中符合規則的內容（校花圖片），保存n # 找到所有的a標籤，再訪問其他a標籤，一層一層的搞下去n n hxs = HtmlXPathSelector(response)#創建查詢對象n n # 如果url是 http://www.xiaohuar.com/list-1-d+.htmln if re.match(http://www.xiaohuar.com/list-1-d+.html, response.url): #如果url能夠匹配到需要爬取的url，即本站urln items = hxs.select(//div[@class="item_list infinite_scroll"]/div) #select中填寫查詢目標，按scrapy查詢語法書寫n for i in range(len(items)):n src = hxs.select(//div[@class="item_list infinite_scroll"]/div[%d]//div[@class="img"]/a/img/@src % i).extract()#查詢所有img標籤的src屬性，即獲取校花圖片地址n name = hxs.select(//div[@class="item_list infinite_scroll"]/div[%d]//div[@class="img"]/span/text() % i).extract() #獲取span的文本內容，即校花姓名n school = hxs.select(//div[@class="item_list infinite_scroll"]/div[%d]//div[@class="img"]/div[@class="btns"]/a/text() % i).extract() #校花學校n if src:n ab_src = "http://www.xiaohuar.com" + src[0]#相對路徑拼接n file_name = "%s_%s.jpg" % (school[0].encode(utf-8), name[0].encode(utf-8)) #文件名，因為python27默認編碼格式是unicode編碼，因此我們需要編碼成utf-8n file_path = os.path.join("/Users/wupeiqi/PycharmProjects/beauty/pic", file_name)n urllib.urlretrieve(ab_src, file_path)n

註：urllib.urlretrieve(ab_src, file_path) ，接收文件路徑和需要保存的路徑，會自動去文件路徑下載並保存到我們指定的本地路徑。

5.遞歸爬取網頁

上述代碼僅僅實現了一個url的爬取，如果該url的爬取的內容中包含了其他url，而我們也想對其進行爬取，那麼如何實現遞歸爬取網頁呢？

示例代碼：

# 獲取所有的url，繼續訪問，並在其中尋找相同的urln all_urls = hxs.select(//a/@href).extract()n for url in all_urls:n if url.startswith(http://www.xiaohuar.com/list-1-):n yield Request(url, callback=self.parse)n

即通過yield生成器向每一個url發送request請求，並執行返回函數parse，從而遞歸獲取校花圖片和校花姓名學校等信息。

註：可以修改settings.py 中的配置文件，以此來指定「遞歸」的層數，如： DEPTH_LIMIT = 1

6.scrapy查詢語法中的正則：

from scrapy.selector import Selectornfrom scrapy.http import HtmlResponsenhtml = """<!DOCTYPE html>n<html>n<head lang="en">n <meta charset="UTF-8">n <title></title>n</head>n<body>n <li class="item-"><a href="link.html">first item</a></li>n <li class="item-0"><a href="link1.html">first item</a></li>n <li class="item-1"><a href="link2.html">second item</a></li>n</body>n</html>n"""nresponse = HtmlResponse(url=http://example.com, body=html,encoding=utf-8)nret = Selector(response=response).xpath(//li[re:test(@class, "item-d*")]//@href).extract()nprint(ret)n

• 語法規則：Selector(response=response查詢對象).xpath(『//li[re:test(@class, 「item-d*」)]//@href』).extract()，即根據re正則匹配，test即匹配，屬性名是class，匹配的正則表達式是」item-d*」，然後獲取該標籤的href屬性。

#!/usr/bin/env pythonn# -*- coding:utf-8 -*-n nimport scrapynimport hashlibnfrom tutorial.items import JinLuoSiItemnfrom scrapy.http import Requestnfrom scrapy.selector import HtmlXPathSelectorn n nclass JinLuoSiSpider(scrapy.spiders.Spider):n count = 0n url_set = set()n n name = "jluosi"n domain = http://www.jluosi.comn allowed_domains = ["jluosi.com"]n n start_urls = [n "http://www.jluosi.com:80/ec/goodsDetail.action?jls=QjRDNEIzMzAzOEZFNEE3NQ==",n ]n n def parse(self, response):n md5_obj = hashlib.md5()n md5_obj.update(response.url)n md5_url = md5_obj.hexdigest()n if md5_url in JinLuoSiSpider.url_set:n passn else:n JinLuoSiSpider.url_set.add(md5_url)n hxs = HtmlXPathSelector(response)n if response.url.startswith(http://www.jluosi.com:80/ec/goodsDetail.action):n item = JinLuoSiItem()n item[company] = hxs.select(//div[@class="ShopAddress"]/ul/li[1]/text()).extract()n item[link] = hxs.select(//div[@class="ShopAddress"]/ul/li[2]/text()).extract()n item[qq] = hxs.select(//div[@class="ShopAddress"]//a/@href).re(.*uin=(?P<qq>d*)&)n item[address] = hxs.select(//div[@class="ShopAddress"]/ul/li[4]/text()).extract()n n item[title] = hxs.select(//h1[@class="goodsDetail_goodsName"]/text()).extract()n n item[unit] = hxs.select(//table[@class="R_WebDetail_content_tab"]//tr[1]//td[3]/text()).extract()n product_list = []n product_tr = hxs.select(//table[@class="R_WebDetail_content_tab"]//tr)n for i in range(2,len(product_tr)):n temp = {n standard:hxs.select(//table[@class="R_WebDetail_content_tab"]//tr[%d]//td[2]/text() %i).extract()[0].strip(),n price:hxs.select(//table[@class="R_WebDetail_content_tab"]//tr[%d]//td[3]/text() %i).extract()[0].strip(),n }n product_list.append(temp)n n item[product_list] = product_listn yield itemn n current_page_urls = hxs.select(//a/@href).extract()n for i in range(len(current_page_urls)):n url = current_page_urls[i]n if url.startswith(http://www.jluosi.com):n url_ab = urln yield Request(url_ab, callback=self.parse)n n選擇器規則Demon

選擇器規則Demo

def parse(self, response):n from scrapy.http.cookies import CookieJarn cookieJar = CookieJar()n cookieJar.extract_cookies(response, response.request)n print(cookieJar._cookies)n

獲取響應cookie

更多選擇器規則：http://scrapy-chs.readthedocs.io/zh_CN/latest/topics/selectors.html

7、格式化處理

上述實例只是簡單的圖片處理，所以在parse方法中直接處理。如果對於想要獲取更多的數據（獲取頁面的價格、商品名稱、QQ等），則可以利用Scrapy的items將數據格式化，然後統一交由pipelines來處理。即不同功能用不同文件實現。

items：即用戶需要爬取哪些數據，是用來格式化數據，並告訴pipelines哪些數據需要保存。

示例items.py文件：

# -*- coding: utf-8 -*-n n# Define here the models for your scraped itemsn#n# See documentation in:n# http://doc.scrapy.org/en/latest/topics/items.htmln nimport scrapyn nclass JieYiCaiItem(scrapy.Item):n n company = scrapy.Field()n title = scrapy.Field()n qq = scrapy.Field()n info = scrapy.Field()n more = scrapy.Field()n

即：需要爬取所有url中的公司名，title，qq，基本信息info，更多信息more。

上述定義模板，以後對於從請求的源碼中獲取的數據同樣按照此結構來獲取，所以在spider中需要有一下操作：

#!/usr/bin/env pythonn# -*- coding:utf-8 -*-n nimport scrapynimport hashlibnfrom beauty.items import JieYiCaiItemnfrom scrapy.http import Requestnfrom scrapy.selector import HtmlXPathSelectornfrom scrapy.spiders import CrawlSpider, Rulenfrom scrapy.linkextractors import LinkExtractorn n nclass JieYiCaiSpider(scrapy.spiders.Spider):n count = 0n url_set = set()n n name = "jieyicai"n domain = http://www.jieyicai.comn allowed_domains = ["jieyicai.com"]n n start_urls = [n "http://www.jieyicai.com",n ]n n rules = [n #下面是符合規則的網址,但是不抓取內容,只是提取該頁的鏈接(這裡網址是虛構的,實際使用時請替換)n #Rule(SgmlLinkExtractor(allow=(rhttp://test_url/test?page_index=d+))),n #下面是符合規則的網址,提取內容,(這裡網址是虛構的,實際使用時請替換)n #Rule(LinkExtractor(allow=(rhttp://www.jieyicai.com/Product/Detail.aspx?pid=d+)), callback="parse"),n ]n n def parse(self, response):n md5_obj = hashlib.md5()n md5_obj.update(response.url)n md5_url = md5_obj.hexdigest()n if md5_url in JieYiCaiSpider.url_set:n passn else:n JieYiCaiSpider.url_set.add(md5_url)n n hxs = HtmlXPathSelector(response)n if response.url.startswith(http://www.jieyicai.com/Product/Detail.aspx):n item = JieYiCaiItem()n item[company] = hxs.select(//span[@class="username g-fs-14"]/text()).extract()n item[qq] = hxs.select(//span[@class="g-left bor1qq"]/a/@href).re(.*uin=(?P<qq>d*)&)n item[info] = hxs.select(//div[@class="padd20 bor1 comard"]/text()).extract()n item[more] = hxs.select(//li[@class="style4"]/a/@href).extract()n item[title] = hxs.select(//div[@class="g-left prodetail-text"]/h2/text()).extract()n yield itemn n current_page_urls = hxs.select(//a/@href).extract()n for i in range(len(current_page_urls)):n url = current_page_urls[i]n if url.startswith(/):n url_ab = JieYiCaiSpider.domain + urln yield Request(url_ab, callback=self.parse)n nspidern nspidern

spider

上述代碼中：對url進行md5加密的目的是避免url過長，也方便保存在緩存或資料庫中。

此處代碼的關鍵在於：

• 將獲取的數據封裝在了Item對象中
• yield Item對象 （一旦parse中執行yield Item對象，則自動將該對象交個pipelines的類來處理）

# -*- coding: utf-8 -*-n n# Define your item pipelines heren#n# Dont forget to add your pipeline to the ITEM_PIPELINES settingn# See: http://doc.scrapy.org/en/latest/topics/item-pipeline.htmln nimport jsonnfrom twisted.enterprise import adbapinimport MySQLdb.cursorsnimport ren nmobile_re = re.compile(r(13[0-9]|15[012356789]|17[678]|18[0-9]|14[57])[0-9]{8})nphone_re = re.compile(r(d+-d+|d+))n nclass JsonPipeline(object):n n def __init__(self):n self.file = open(/Users/wupeiqi/PycharmProjects/beauty/beauty/jieyicai.json, wb)n n n def process_item(self, item, spider):n line = "%s %sn" % (item[company][0].encode(utf-8), item[title][0].encode(utf-8))n self.file.write(line)n return itemn nclass DBPipeline(object):n n def __init__(self):n self.db_pool = adbapi.ConnectionPool(MySQLdb,n db=DbCenter,n user=root,n passwd=123,n cursorclass=MySQLdb.cursors.DictCursor,n use_unicode=True)n n def process_item(self, item, spider):n query = self.db_pool.runInteraction(self._conditional_insert, item)n query.addErrback(self.handle_error)n return itemn n def _conditional_insert(self, tx, item):n tx.execute("select nid from company where company = %s", (item[company][0], ))n result = tx.fetchone()n if result:n passn else:n phone_obj = phone_re.search(item[info][0].strip())n phone = phone_obj.group() if phone_obj else n n mobile_obj = mobile_re.search(item[info][1].strip())n mobile = mobile_obj.group() if mobile_obj else n n values = (n item[company][0],n item[qq][0],n phone,n mobile,n item[info][2].strip(),n item[more][0])n tx.execute("insert into company(company,qq,phone,mobile,address,more) values(%s,%s,%s,%s,%s,%s)", values)n n def handle_error(self, e):n print error,en npipelinesn npipelinesn

pipelines

上述代碼中多個類的目的是，可以同時保存在文件和資料庫中，保存的優先順序可以在配置文件settings中定義。

5ITEM_PIPELINES = {nbeauty.pipelines.DBPipeline: 300,nbeauty.pipelines.JsonPipeline: 100,n}n# 每行後面的整型值，確定了他們運行的順序，item按數字從低到高的順序，通過pipeline，通常將這些數字定義在0-1000範圍內。n

總結：本文對python爬蟲框架Scrapy做了詳細分析和實例講解，如果本文對您有參考價值，歡迎幫博主點下文章下方的推薦，謝謝！