在进行数据抓取时,经常会遇到IP被限制的情况,常见的解决方案是搭建代理IP池,或购买IP代理的服务。除此之外,还有一个另外的方法就是使用家里的宽带网络进行抓取。由于家里的宽带每次断开重新连接时都会分配一个新的IP,所以在我们抓取数据的时候,判断当IP被禁掉时,立即在路由器中进行断开重新连接操作。考虑到人工操作比较繁琐,另外也不可能一直盯着执行的程序,就考虑使用Python自动多路由器进行设置。
以下代码为针对家里的TP-Link进行的设置,其他路由器的设置原理也应该一样。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
|
import base64, requests, time, re base_url = 'http://192.168.1.1' user = 'admin' pwd = 'password' headers = { 'Accept' : '*/*' , 'User-Agent' : 'Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.1; WOW64; Trident/4.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; .NET4.0C; .NET4.0E)' , 'Referer' : base_url + '/userRpm/StatusRpm.htm' , 'Cookie' : 'Authorization=Basic ' + base64.b64encode((user + ':' + pwd).encode(encoding = 'utf-8' )).decode( encoding = 'utf-8' ) } def get_ip(): url = "http://2018.ip138.com/ic.asp" r = requests.get(url) txt = r.text ip = txt[txt.find( "[" ) + 1 : txt.find( "]" )] return ip def get_ip_status(): url = base_url + "/userRpm/StatusRpm.htm" r = requests.get(url = url, headers = headers) pattern = re. compile ( '(\d+\.\d+\.\d+\.\d+)' ) ip = re.findall(pattern,r.text) return ip[ 3 ] def change_ip(): url = base_url + '/userRpm/StatusRpm.htm?Disconnect=%B6%CF%20%CF%DF&wan=1' requests.get(url = url, headers = headers) while True : time.sleep( 5 ) new_ip = get_ip_status() if new_ip ! = '0.0.0.0' : break if __name__ = = "__main__" : change_ip() |
以上代码已经经过测试,能够正常使用。希望对大家的学习有所帮助,也希望大家多多支持服务器之家。
原文链接:https://www.biaodianfu.com/python-change-adsl-ip.html