建站
咨詢
售后
建站咨詢
新聞中心
Scrapy，Python開發(fā)的一個快速,高層次的屏幕抓取和web抓取框架，用于抓取web站點(diǎn)并從頁面中提取結(jié)構(gòu)化的數(shù)據(jù)。Scrapy用途廣泛，可以用于數(shù)據(jù)挖掘、監(jiān)測和 自動化測試 。
創(chuàng)新互聯(lián)是專業(yè)的衡陽網(wǎng)站建設(shè)公司，衡陽接單;提供網(wǎng)站設(shè)計、成都做網(wǎng)站,網(wǎng)頁設(shè)計,網(wǎng)站設(shè)計,建網(wǎng)站,PHP網(wǎng)站建設(shè)等專業(yè)做網(wǎng)站服務(wù);采用PHP框架,可快速的進(jìn)行衡陽網(wǎng)站開發(fā)網(wǎng)頁制作和功能擴(kuò)展;專業(yè)做搜索引擎喜愛的網(wǎng)站,專業(yè)的做網(wǎng)站團(tuán)隊,希望更多企業(yè)前來合作!
Scrapy吸引人的地方在于它是一個框架，任何人都可以根據(jù)需求方便的修改。它也提供了多種類型爬蟲的基類，如BaseSpider、sitemap爬蟲等，最新版本又提供了web2.0爬蟲的支持。
Scratch，是抓取的意思，這個Python的爬蟲框架叫Scrapy，大概也是這個意思吧，就叫它：小刮刮吧。
Scrapy 使用了 Twisted異步網(wǎng)絡(luò)庫來處理網(wǎng)絡(luò)通訊。整體架構(gòu)大致如下:
Scrapy主要包括了以下組件：
- 引擎(Scrapy)
用來處理整個系統(tǒng)的數(shù)據(jù)流處理, 觸發(fā)事務(wù)(框架核心)
- 調(diào)度器(Scheduler)
用來接受引擎發(fā)過來的請求, 壓入隊列中, 并在引擎再次請求的時候返回. 可以想像成一個URL（抓取網(wǎng)頁的網(wǎng)址或者說是鏈接）的優(yōu)先隊列, 由它來決定下一個要抓取的網(wǎng)址是什么, 同時去除重復(fù)的網(wǎng)址
- 下載器(Downloader)
用于下載網(wǎng)頁內(nèi)容, 并將網(wǎng)頁內(nèi)容返回給蜘蛛(Scrapy下載器是建立在twisted這個高效的異步模型上的)
- 爬蟲(Spiders)
爬蟲是主要干活的, 用于從特定的網(wǎng)頁中提取自己需要的信息, 即所謂的實體(Item)。用戶也可以從中提取出鏈接,讓Scrapy繼續(xù)抓取下一個頁面
- 項目管道(Pipeline)
負(fù)責(zé)處理爬蟲從網(wǎng)頁中抽取的實體，主要的功能是持久化實體、驗證實體的有效性、清除不需要的信息。當(dāng)頁面被爬蟲解析后，將被發(fā)送到項目管道，并經(jīng)過幾個特定的次序處理數(shù)據(jù)。
- 下載器中間件(Downloader Middlewares)
位于Scrapy引擎和下載器之間的框架，主要是處理Scrapy引擎與下載器之間的請求及響應(yīng)。
- 爬蟲中間件(Spider Middlewares)
介于Scrapy引擎和爬蟲之間的框架，主要工作是處理蜘蛛的響應(yīng)輸入和請求輸出。
- 調(diào)度中間件(Scheduler Middewares)
介于Scrapy引擎和調(diào)度之間的中間件，從Scrapy引擎發(fā)送到調(diào)度的請求和響應(yīng)。
Scrapy運(yùn)行流程大概如下：
- 引擎從調(diào)度器中取出一個鏈接(URL)用于接下來的抓取
- 引擎把URL封裝成一個請求(Request)傳給下載器
- 下載器把資源下載下來，并封裝成應(yīng)答包(Response)
- 爬蟲解析Response
- 解析出實體（Item）,則交給實體管道進(jìn)行進(jìn)一步的處理
- 解析出的是鏈接（URL）,則把URL交給調(diào)度器等待抓取
安裝
因為python3并不能完全支持Scrapy，因此為了完美運(yùn)行Scrapy，我們使用python2.7來編寫和運(yùn)行Scrapy。
注：windows平臺需要依賴pywin32，請根據(jù)自己系統(tǒng)32/64位選擇下載安裝，https://sourceforge.net/projects/pywin32/
其它可能依賴的安裝包：lxml-3.6.4-cp27-cp27m-win_amd64.whl，VCForPython27.msi百度下載即可
基本使用
1、創(chuàng)建項目
運(yùn)行命令:
2.自動創(chuàng)建目錄的結(jié)果：
文件說明：
- scrapy.cfg 項目的配置信息，主要為Scrapy命令行工具提供一個基礎(chǔ)的配置信息。（真正爬蟲相關(guān)的配置信息在settings.py文件中）
- items.py 設(shè)置數(shù)據(jù)存儲模板，用于結(jié)構(gòu)化數(shù)據(jù)，如：Django的Model
- pipelines 數(shù)據(jù)處理行為，如：一般結(jié)構(gòu)化的數(shù)據(jù)持久化
- settings.py 配置文件，如：遞歸的層數(shù)、并發(fā)數(shù)，延遲下載等
- spiders 爬蟲目錄，如：創(chuàng)建文件，編寫爬蟲規(guī)則
注意：一般創(chuàng)建爬蟲文件時，以網(wǎng)站域名命名
3、編寫爬蟲
在spiders目錄中新建 xiaohuar_spider.py 文件
示例代碼：
備注：
- 爬蟲文件需要定義一個類，并繼承scrapy.spiders.Spider
- 必須定義name，即爬蟲名，如果沒有name，會報錯。因為源碼中是這樣定義的：
3. 編寫函數(shù)parse，這里需要注意的是，該函數(shù)名不能改變，因為Scrapy源碼中默認(rèn)callback函數(shù)的函數(shù)名就是parse；
4. 定義需要爬取的url，放在列表中，因為可以爬取多個url，Scrapy源碼是一個For循環(huán)，從上到下爬取這些url，使用生成器迭代將url發(fā)送給下載器下載url的html。源碼截圖：
4、運(yùn)行
進(jìn)入p1目錄，運(yùn)行命令
格式：scrapy crawl+爬蟲名 –nolog即不顯示日志
5、scrapy查詢語法：
當(dāng)我們爬取大量的網(wǎng)頁，如果自己寫正則匹配，會很麻煩，也很浪費(fèi)時間，令人欣慰的是，scrapy內(nèi)部支持更簡單的查詢語法，幫助我們?nèi)tml中查詢我們需要的標(biāo)簽和標(biāo)簽內(nèi)容以及標(biāo)簽屬性。下面逐一進(jìn)行介紹：
- 查詢子子孫孫中的某個標(biāo)簽(以div標(biāo)簽為例)：//div
- 查詢兒子中的某個標(biāo)簽(以div標(biāo)簽為例)：/div
- 查詢標(biāo)簽中帶有某個class屬性的標(biāo)簽：//div[@class=’c1′]即子子孫孫中標(biāo)簽是div且class=‘c1’的標(biāo)簽
- 查詢標(biāo)簽中帶有某個class=‘c1’并且自定義屬性name=‘a(chǎn)lex’的標(biāo)簽：//div[@class=’c1′][@name=’alex’]
- 查詢某個標(biāo)簽的文本內(nèi)容：//div/span/text() 即查詢子子孫孫中div下面的span標(biāo)簽中的文本內(nèi)容
- 查詢某個屬性的值（例如查詢a標(biāo)簽的href屬性）：//a/@href
示例代碼：
注：urllib.urlretrieve(ab_src, file_path) ，接收文件路徑和需要保存的路徑，會自動去文件路徑下載并保存到我們指定的本地路徑。
6、遞歸爬取網(wǎng)頁
上述代碼僅僅實現(xiàn)了一個url的爬取，如果該url的爬取的內(nèi)容中包含了其他url，而我們也想對其進(jìn)行爬取，那么如何實現(xiàn)遞歸爬取網(wǎng)頁呢？
示例代碼：
即通過yield生成器向每一個url發(fā)送request請求，并執(zhí)行返回函數(shù)parse，從而遞歸獲取?；▓D片和校花姓名學(xué)校等信息。
注：可以修改settings.py 中的配置文件，以此來指定“遞歸”的層數(shù),如： DEPTH_LIMIT = 1
7、scrapy查詢語法中的正則：
語法規(guī)則：Selector(response=response查詢對象).xpath(‘//li[re:test(@class, “item-d*”)]//@href’).extract()，即根據(jù)re正則匹配，test即匹配，屬性名是class，匹配的正則表達(dá)式是”item-d*”，然后獲取該標(biāo)簽的href屬性。
選擇器規(guī)則Demo
獲取響應(yīng)cookie
更多選擇器規(guī)則：http://www.baby98.cn/
8、格式化處理
上述實例只是簡單的圖片處理，所以在parse方法中直接處理。如果對于想要獲取更多的數(shù)據(jù)（獲取頁面的價格、商品名稱、QQ等），則可以利用Scrapy的items將數(shù)據(jù)格式化，然后統(tǒng)一交由pipelines來處理。即不同功能用不同文件實現(xiàn)。
items：即用戶需要爬取哪些數(shù)據(jù)，是用來格式化數(shù)據(jù)，并告訴pipelines哪些數(shù)據(jù)需要保存。
示例items.py文件：
即：需要爬取所有url中的公司名，title，qq，基本信息info，更多信息more。
上述定義模板，以后對于從請求的源碼中獲取的數(shù)據(jù)同樣按照此結(jié)構(gòu)來獲取，所以在spider中需要有一下操作：
上述代碼中：對url進(jìn)行md5加密的目的是避免url過長，也方便保存在緩存或數(shù)據(jù)庫中。
此處代碼的關(guān)鍵在于：
- 將獲取的數(shù)據(jù)封裝在了Item對象中
- yield Item對象 （一旦parse中執(zhí)行yield Item對象，則自動將該對象交個pipelines的類來處理）
上述代碼中多個類的目的是，可以同時保存在文件和數(shù)據(jù)庫中，保存的優(yōu)先級可以在配置文件settings中定義。
總結(jié)：本文對python爬蟲框架Scrapy做了詳細(xì)分析和實例講解
新聞名稱：教你分分鐘學(xué)會用python爬蟲框架Scrapy爬取心目中的女神
文章轉(zhuǎn)載：http://www.dlmjj.cn/article/dhedcsc.html
