新聞中心
這里有您想知道的互聯網營銷解決方案
基于python框架Scrapy爬取自己的博客內容過程詳解-創(chuàng)新互聯
前言
python中常用的寫爬蟲的庫常有urllib2、requests,對于大多數比較簡單的場景或者以學習為目的,可以用這兩個庫實現。這里有一篇我之前寫過的用urllib2+BeautifulSoup做的一個抓取百度音樂熱門歌曲的例子,有興趣可以看一下。
本文介紹用Scrapy抓取我在博客園的博客列表,只抓取博客名稱、發(fā)布日期、閱讀量和評論量這四個簡單的字段,以求用較簡單的示例說明Scrapy的最基本的用法。
環(huán)境配置說明
操作系統(tǒng):Ubuntu 14.04.2 LTS
Python:Python 2.7.6
Scrapy:Scrapy 1.0.3
注意:Scrapy1.0的版本和之前的版本有些區(qū)別,有些類的命名空間改變了。
創(chuàng)建項目
執(zhí)行如下命令創(chuàng)建一個Scrapy項目
scrapy startproject scrapy_cnblogs
另外有需要云服務器可以了解下創(chuàng)新互聯scvps.cn,海內外云服務器15元起步,三天無理由+7*72小時售后在線,公司持有idc許可證,提供“云服務器、裸金屬服務器、高防服務器、香港服務器、美國服務器、虛擬主機、免備案服務器”等云主機租用服務以及企業(yè)上云的綜合解決方案,具有“安全穩(wěn)定、簡單易用、服務可用性高、性價比高”等特點與優(yōu)勢,專為企業(yè)上云打造定制,能夠滿足用戶豐富、多元化的應用場景需求。
本文名稱:基于python框架Scrapy爬取自己的博客內容過程詳解-創(chuàng)新互聯
新聞來源:http://www.dlmjj.cn/article/egoso.html