建站
咨詢
售后
建站咨詢
新聞中心
這里有您想知道的互聯(lián)網(wǎng)營銷解決方案
Linux部署python爬蟲腳本,并設(shè)置定時任務(wù)的方法
去年因項目需要，用python寫了個爬蟲。因爬到的數(shù)據(jù)需要存到生產(chǎn)環(huán)境的PG數(shù)據(jù)庫。所以需要將腳本部署到CentOS服務(wù)器，并設(shè)置定時任務(wù)，自動啟動腳本。
實(shí)施步驟如下：
1.安裝pip（操作系統(tǒng)自帶了python2.6可以直接用，但是沒有pip）
# 下載pip安裝包 wget "https://pypi.python.org/packages/source/p/pip/pip-1.5.4.tar.gz#md5=834b2904f92d46aaa333267fb1c922bb" --no-check-certificate # 解壓安裝包并安裝 tar -xzvf pip-1.5.4.tar.gz cd pip-1.5.4 python setup.py install
2.用pip安裝第三方庫
pip install PyGreSQL==5.0.3 pip install requests==2.18.3
3.設(shè)置定時任務(wù)
# 開啟定時任務(wù)服務(wù) service crond start # 查看定時任務(wù)服務(wù)狀態(tài) service crond status # 打開定時任務(wù)編輯窗口 crontab -e # 添加兩條定時任務(wù)，即每天0點(diǎn)0分和12點(diǎn)20分各執(zhí)行一次，并寫入日志 0 0 * * * /usr/bin/python /home/longrise/psrd/collect.py > /home/longrise/psrd/collect.log 2>&1 & 20 12 * * * /usr/bin/python /home/longrise/psrd/collect.py > /home/longrise/psrd/collect.log 2>&1 & 定時任務(wù)語法如下： # For details see man 4 crontabs # Example of job definition: # .---------------- minute (0 - 59) # | .------------- hour (0 - 23) # | | .---------- day of month (1 - 31) # | | | .------- month (1 - 12) OR jan,feb,mar,apr ... # | | | | .---- day of week (0 - 6) (Sunday=0 or 7) OR sun,mon,tue,wed,thu,fri,sat # | | | | | # * * * * * user-name command to be executed
以上這篇linux部署python爬蟲腳本,并設(shè)置定時任務(wù)的方法就是小編分享給大家的全部內(nèi)容了，希望能給大家一個參考，也希望大家多多支持。
成都創(chuàng)新互聯(lián)科技有限公司，是一家專注于互聯(lián)網(wǎng)、IDC服務(wù)、應(yīng)用軟件開發(fā)、網(wǎng)站建設(shè)推廣的公司，為客戶提供互聯(lián)網(wǎng)基礎(chǔ)服務(wù)！
創(chuàng)新互聯(lián)（www.cdcxhl.com）提供簡單好用，價格厚道的香港/美國云服務(wù)器和獨(dú)立服務(wù)器。創(chuàng)新互聯(lián)成都老牌IDC服務(wù)商，專注四川成都IDC機(jī)房服務(wù)器托管/機(jī)柜租用。為您精選優(yōu)質(zhì)idc數(shù)據(jù)中心機(jī)房租用、服務(wù)器托管、機(jī)柜租賃、大帶寬租用，可選線路電信、移動、聯(lián)通等。
網(wǎng)頁題目：Linux部署python爬蟲腳本,并設(shè)置定時任務(wù)的方法
瀏覽地址：http://www.dlmjj.cn/article/dhigoih.html
