python爬取抖音视频的实例分析_Python

现在抖音的火爆程度，大家都是有目共睹的吧，之前小编在网络上发现好玩的事情，就是去爬取一些网站，因此，也考虑能否进行抖音上的破案去，在实际操作以后，真的实现出来了，利用自动化工具，就可以轻松实现了，后有小伙伴提出把appium去掉瘦身之后也是可以实现的，那么看下详细操作内容吧。

1、mitmproxy/mitmdump抓包

				?

									import requests

									path = 'd:/video/'

									num = 1788

									def response(flow):

									 global num

									 target_urls = ['url']

									 for url in target_urls:

									   if flow.request.url.startswith(url):

									      filename = path + str(num) + '.mp4

									   res = requests.get(flow.request.url, stream=true)

									    with open(filename, 'ab') as f:

									    f.write(res.content)

									    f.flush()

									    print(filename + '下载完成')

									   num += 1

2、appium对手机进行模拟操作

利用start server按钮即可启动appium服务

python爬取抖音视频的实例分析

再点击start session即可启动android手机上的抖音app并进入到启动页面

3、python脚本来驱动app，直接在pycharm运行即可

实例扩展：

				?

									import requests

									import json

									import re

									import os

									from pprint import pprint as pp

									import queue

									class douyin:

									 header = {

									  'accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8',

									  'accept-encoding': 'gzip, deflate, br',

									  'accept-language': 'zh-cn,zh;q=0.9',

									  'cache-control': 'max-age=0',

									  'upgrade-insecure-requests': '1',

									  'user-agent': 'mozilla/5.0 (iphone; cpu iphone os 11_0 like mac os x) applewebkit/604.1.38 (khtml, like gecko) version/11.0 mobile/15a372 safari/604.1',

									 }

									 def __init__(self, url=none):

									  self.url = self.get_realaddress(url)

									  # 获取用户视频的url

									  self.user_video_url = 'https://www.douyin.com/aweme/v1/aweme/post/?{0}'

									  self.user_id = re.search(r'user/(.*)\?', self.url).group(1)       # 用户id

									  requests.packages.urllib3.disable_warnings()

									  self.session = requests.session()

									  self.target_folder = ''       # 创建文件的路径

									  self.queue = queue.queue()        # 生成一个队列对象

									 def user_info(self):

									  self.mkdir_dir()

									  p = os.popen('node fuck.js %s' % self.user_id) # 获取加密的signature

									  signature = p.readlines()[0]

									  user_video_params = {

									   'user_id': str(self.user_id),

									   'count': '21',

									   'max_cursor': '0',

									   'aid': '1128',

									   '_signature': signature

									  }

									  # 获取下载视频的列表

									  def get_aweme_list(max_cursor=none):

									   if max_cursor:

									    user_video_params['max_cursor'] = str(max_cursor)

									   user_video_url = self.user_video_url.format(

									    '&'.join([key + '=' + user_video_params[key] for key in user_video_params])) # 拼接参数

									   response = requests.get(

									    url=user_video_url, headers=self.header, verify=false)

									   contentjson = json.loads(response.content.decode('utf-8')) # 将返回的进行utf8编码

									   aweme_list = contentjson.get('aweme_list', [])

									   for aweme in aweme_list:

									    video_name = aweme.get(

									     'share_info', none).get('share_desc', none)  # 视频的名字

									    video_url = aweme.get('video', none).get('play_addr', none).get(

									     'url_list', none)[0].replace('playwm', 'play')  # 视频链接

									    self.queue.put((video_name, video_url)) # 将数据进队列

									   if contentjson.get('has_more') == 1: # 判断后面是不是还有是1就是还有

									    return get_aweme_list(contentjson.get('max_cursor')) # 有的话获取参数max_cursor

									  get_aweme_list()

									 # 下载视频

									 def get_download(self):

									  while true:

									   video_name, video_url = self.queue.get()

									   file_name = video_name + '.mp4'

									   file_path = os.path.join(self.target_folder, file_name)

									   if not os.path.isfile(file_path):

									    print('download %s form %s.\n' % (file_name, video_url))

									    times = 0

									    while times < 10:

									     try:

									      response = requests.get(

									       url=video_url, stream=true, timeout=10, verify=false) # 开启流下载

									      with open(file_path, 'wb') as f:

									       for chunk in response.iter_content(1024): # 返回迭代对象

									        f.write(chunk)

									       print('下载成功')

									      break

									     except:

									      print('下载失败')

									     times += 1

									 # 创建对应的文件夹

									 def mkdir_dir(self):

									  current_folder = os.getcwd()

									  self.target_folder = os.path.join(

									   current_folder, 'download/%s' % self.user_id)

									  if not os.path.isdir(self.target_folder):

									   os.mkdir(self.target_folder)

									 # 短链接转长地址

									 def get_realaddress(self, url):

									  if url.find('v.douyin.com') < 0:

									   return url

									  response = requests.get(

									   url=url, headers=self.header, allow_redirects=false) # allow_redirects 允许跳转

									  return response.headers['location']

									if __name__ == '__main__':

									 douyin = douyin(url='http://v.douyin.com/j2b9sk/')

									 douyin.user_info()

									 douyin.get_download()