python检查URL是否正常访问的小技巧_Python

python检查URL是否正常访问的小技巧

2020-09-22 09:02程序猿全敏 Python

检查一个URL是否正常很容易，如果检查2000个URL，或者是大批量的URL怎么办？这篇文章就为大家介绍了python检查URL是否正常访问的小技巧，具有一定的参考价值，感兴趣的小伙伴们可以参考一下

今天，项目经理问我一个问题，问我这里有2000个URL要检查是否能正常打开，其实我是拒绝的，我知道因为要写代码了，正好学了点Python，一想，python处理起来容易，就选了python，开始把思路想好：

1.首先2000个URL。可以放在一个txt文本内
2.通过python 把内容内的URL一条一条放进数组内
3.打开一个模拟的浏览器，进行访问。
4.如果正常访问就输出正常，错误就输出错误

直接简单粗暴甩代码。因为涉及到隐私，图片打了码

				?

									import urllib.request 

									import time 

									opener = urllib.request.build_opener() 

									opener.addheaders = [('User-agent', 'Mozilla/49.0.2')] 

									#这个是你放网址的文件名，改过来就可以了 

									file = open('test.txt') 

									lines = file.readlines() 

									aa=[] 

									for line in lines: 

									  temp=line.replace('\n','') 

									  aa.append(temp) 

									print(aa) 

									print('开始检查：') 

									for a in aa: 

									  tempUrl = a 

									  try : 

									    opener.open(tempUrl) 

									    print(tempUrl+'没问题') 

									  except urllib.error.HTTPError: 

									    print(tempUrl+'=访问页面出错') 

									    time.sleep(2) 

									  except urllib.error.URLError: 

									    print(tempUrl+'=访问页面出错') 

									    time.sleep(2) 

									  time.sleep(0.1)