Python多线程原理与用法实例剖析_Python

本文实例讲述了python多线程原理与用法。分享给大家供大家参考，具体如下：

先来看个栗子：

下面来看一下i/o秘籍型的线程，举个栗子——爬虫，下面是爬下来的图片用4个线程去写文件

				?

									#!/usr/bin/env python

									# -*- coding:utf-8 -*-

									import re

									import urllib

									import threading

									import queue

									import timeit

									def gethtml(url):

									  html_page = urllib.urlopen(url).read()

									  return html_page

									# 提取网页中图片的url

									def geturl(html):

									  pattern = r'src="(http://img.*?)"' # 正则表达式

									  imgre = re.compile(pattern)

									  imglist = re.findall(imgre, html) # re.findall(pattern,string) 在string中寻找所有匹配成功的字符串，以列表形式返回值

									  return imglist

									class getimg(threading.thread):

									  def __init__(self, queue, thread_name=0): # 线程公用一个队列

									    threading.thread.__init__(self)

									    self.queue = queue

									    self.thread_name = thread_name

									    self.start() # 启动线程

									  # 使用队列实现进程间通信

									  def run(self):

									    global count

									    while (true):

									      imgurl = self.queue.get() # 调用队列对象的get()方法从队头删除并返回一个项目

									      urllib.urlretrieve(imgurl, 'e:\mnt\girls\%s.jpg' % count)

									      count += 1

									      if self.queue.empty():

									        break

									      self.queue.task_done() # 当使用者线程调用 task_done() 以表示检索了该项目、并完成了所有的工作时，那么未完成的任务的总数就会减少。

									imglist = []

									def main():

									  global imglist

									  url = "http://huaban.com/favorite/beauty/" # 要爬的网页地址

									  html = gethtml(url)

									  imglist = geturl(html)

									def main_1():

									  global count

									  threads = []

									  count = 0

									  queue = queue.queue()

									  # 将所有任务加入队列

									  for img in imglist:

									    queue.put(img)

									  # 多线程爬去图片

									  for i in range(4):

									    thread = getimg(queue, i)

									    threads.append(thread)

									  # 阻塞线程，直到线程执行完成

									  for thread in threads:

									    thread.join()

									if __name__ == '__main__':

									  main()

									  t = timeit.timer(main_1)

									  print t.timeit(1)

4个线程的执行耗时为：0.421320716723秒

修改一下main_1换成单线程的：

				?

									def main_1():

									  global count

									  threads = []

									  count = 0

									  queue = queue.queue()

									  # 将所有任务加入队列

									  for img in imglist:

									    queue.put(img)

									  # 多线程爬去图片

									  for i in range(1):

									    thread = getimg(queue, i)

									    threads.append(thread)

									  # 阻塞线程，直到线程执行完成

									  for thread in threads:

									    thread.join()

单线程的执行耗时为：1.35626623274秒

Python多线程原理与用法实例剖析

再来看一个：

				?

									#!/usr/bin/env python

									# -*- coding:utf-8 -*-

									import threading

									import timeit

									def countdown(n):

									  while n > 0:

									    n -= 1

									def task1():

									  count = 100000000

									  thread1 = threading.thread(target=countdown, args=(count,))

									  thread1.start()

									  thread1.join()

									def task2():

									  count = 100000000

									  thread1 = threading.thread(target=countdown, args=(count // 2,))

									  thread2 = threading.thread(target=countdown, args=(count // 2,))

									  thread1.start()

									  thread2.start()

									  thread1.join()

									  thread2.join()

									if __name__ == '__main__':

									  t1 = timeit.timer(task1)

									  print "countdown in one thread ", t1.timeit(1)

									  t2 = timeit.timer(task2)

									  print "countdown in two thread ", t2.timeit(1)

task1是单线程，task2是双线程，在我的4核的机器上的执行结果：

countdown in one thread 3.59939150155

countdown in two thread 9.87704289712

天呐，双线程比单线程计算慢了2倍多，这是为什么呢，因为countdown是cpu密集型任务（计算嘛）

Python多线程原理与用法实例剖析

i/o密集型任务：线程做i/o处理的时候会释放gil,其他线程获得gil，当该线程再做i/o操作时，又会释放gil，如此往复；

cpu密集型任务：在多核多线程比单核多线程更差，原因是单核多线程，每次释放gil，唤醒的哪个线程都能获取到gil锁，所以能够无缝执行（单核多线程的本质就是顺序执行），但多核，cpu0释放gil后，其他cpu上的线程都会进行竞争，但gil可能会马上又被cpu0（cpu0上可能不止一个线程）拿到，导致其他几个cpu上被唤醒后的线程会醒着等待到切换时间后又进入待调度状态，这样会造成线程颠簸(thrashing)，导致效率更低。

希望本文所述对大家python程序设计有所帮助。

原文链接：https://www.cnblogs.com/onepiece-andy/p/python-thread-analyze.html