建站
咨詢
售后
建站咨詢
新聞中心
今天給大家分享的是如何在爬取數(shù)據(jù)的時(shí)候防止 IP被封，今天給大家分享兩種方法，希望大家可以認(rèn)真學(xué)習(xí)，再也不用擔(dān)心被封IP啦。
十年的正藍(lán)網(wǎng)站建設(shè)經(jīng)驗(yàn)，針對設(shè)計(jì)、前端、開發(fā)、售后、文案、推廣等六對一服務(wù)，響應(yīng)快，48小時(shí)及時(shí)工作處理。營銷型網(wǎng)站建設(shè)的優(yōu)勢是能夠根據(jù)用戶設(shè)備顯示端的尺寸不同，自動(dòng)調(diào)整正藍(lán)建站的顯示方式，使網(wǎng)站能夠適用不同顯示終端，在瀏覽器中調(diào)整網(wǎng)站的寬度，無論在任何一種瀏覽器上瀏覽網(wǎng)站，都能展現(xiàn)優(yōu)雅布局與設(shè)計(jì)，從而大程度地提升瀏覽體驗(yàn)。創(chuàng)新互聯(lián)從事“正藍(lán)網(wǎng)站設(shè)計(jì)”,“正藍(lán)網(wǎng)站推廣”以來，每個(gè)客戶項(xiàng)目都認(rèn)真落實(shí)執(zhí)行。
第一種：
降低訪問速度，我們可以使用 time模塊中的sleep，使程序每運(yùn)行一次后就睡眠1s，這樣的話就可以大大的減少ip被封的幾率
第二種：
為了提高效率，我們可以使用代理 ip來解決，ip是億牛云的動(dòng)態(tài)轉(zhuǎn)發(fā)代理，以下是代理配置過程的示例
Selenium ?
from selenium import webdriver
import string
import zipfile
# 代理服務(wù)器
proxyHost = "t.16yun.cn"
proxyPort = "31111"
# 代理隧道驗(yàn)證信息
proxyUser = "username"
proxyPass = "password"
def create_proxy_auth_extension (proxy_host, proxy_port,
proxy_username, proxy_password,
scheme= 'http' , plugin_path= None ):
if plugin_path is None :
plugin_path = r 'C:/{}_{}@t.16yun.zip' .format(proxy_username, proxy_password)
manifest_json = """ { "version": "1.0.0", "manifest_version": 2, "name": "16YUN Proxy", "permissions": [ "proxy", "tabs", "unlimitedStorage", "storage", "", "webRequest", "webRequestBlocking" ], "background": { "scripts": ["background.js"] }, "minimum_chrome_version":"22.0.0" } """
background_js = string.Template(
""" var config = { mode: "fixed_servers", rules: { singleProxy: { scheme: "${scheme}", host: "${host}", port: parseInt(${port}) }, bypassList: ["foobar.com"] } };
chrome.proxy.settings.set({value: config, scope: "regular"}, function() {});
function callbackFn(details) { return { authCredentials: { username: "${username}", password: "${password}" } }; }
chrome.webRequest.onAuthRequired.addListener( callbackFn, {urls: [""]}, ['blocking'] ); """
).substitute(
host=proxy_host,
port=proxy_port,
username=proxy_username,
password=proxy_password,
scheme=scheme,
)
with zipfile.ZipFile(plugin_path, 'w' ) as zp:
zp.writestr( "manifest.json" , manifest_json)
zp.writestr( "background.js" , background_js)
return plugin_path
proxy_auth_plugin_path = create_proxy_auth_extension(
proxy_host=proxyHost,
proxy_port=proxyPort,
proxy_username=proxyUser,
proxy_password=proxyPass)
option = webdriver.ChromeOptions()
option.add_argument( "--start-maximized" )
# 如報(bào)錯(cuò) chrome-extensions
# option.add_argument("--disable-extensions")
option.add_extension(proxy_auth_plugin_path)
driver = webdriver.Chrome(chrome_options=option)
driver.get( "http://httpbin.org/ip" )
好 了，今天關(guān)于 python學(xué)習(xí)的分享就到這里，上邊的那段代碼可以直接使用，但是里邊的代理應(yīng)該已經(jīng)過期，大家在使用的時(shí)候可能需要聯(lián)系代理商開通服務(wù)，最后呢希望大家能夠收藏起來，要記得做筆記哦。好記性不如爛筆頭。
分享文章：python學(xué)習(xí)-Selenium爬蟲之使用代理ip的方法
分享地址：http://www.dlmjj.cn/article/jgjhep.html
