1、fastcgi ,通过flup模块来支持,在nginx里对应的配置指令是 fastcgi_pass
2、http,nginx使用proxy_pass转发,这个要求后端appplication必须内置一个能处理高并发的http server,在python的web框架当中,只能选择tornado.
3、uwsgi,包括4部分组成:
- uwsgi协议
- web server内置支持协议模块
- application服务器协议支持模块
- 进程控制程序
nginx从0.8.4开始内置支持uwsgi协议,uwsgi协议非常简单,一个4个字节header+一个body,body可以是很多协议的包,比如说http,cgi等(通过header里面字段标示)。
uwsgi的特点在于自带的进程控制程序.它是用c语言编写,使用natvie函数,其实和spawn-fcgi/php-fpm类似。所以uwsgi可以支持多种应用框架,包括(python,lua,ruby,erlang,go)等等
4、mod_python,这是apache内置的模块,很严重的依赖于mod_python编译使用的python版本,和apache配套使用,不推荐
5、cgi,这个太old,不推荐,而且nginx不支持cgi方式,只能用lighttpd或者apache
6、spawn-fcgi,这个是fastcgi多进程管理程序,lighttpd安装包附带的,和 flup效果一样,区别是flup是 python代码级引入,spawn-fcgi是外部程序。spawn-fcgi用途很广,可以支持任意语言开发的代码,php,python,perl,只要你代码实现了fastcgi接口,它都可以帮你管理你的进程
7、scgi,全名是Simple Common Gateway Interface,也是cgi的替代版本,scgi协议很简单,我觉得和fastcgi差不多,只是没有怎么推广开来,nginx对应的配置指令是scgi_pass,你想用就用,flup也支持。
8、Gunicorn,和uwsgi类似的工具,从rails的部署工具(Unicorn)移植过来的。但是它使用的协议是 WSGI,全称是Python Web Server Gateway Interface ,这是python2.5时定义的官方标准(PEP 333 ),根红苗正,而且部署比较简单,http://gunicorn.org/ 上有详细教程
9、mod_wsgi,apache的一个module,也是支持WSGI协议,https://code.google.com/p/modwsgi/
uwsgi
安装uwsgi
pip install uwsgi
配置uwsgi
uwsgi 有多种配置可用:
1
2
3
4
|
1 ,ini 2 ,xml 3 ,json 4 ,yaml |
配置示例
1
2
3
4
5
6
7
8
9
10
11
12
13
14
|
$ cat etc / uwsgi.ini [uwsgi] socket = 127.0 . 0.1 : 9005 chdir = / Users / suoning / python_project / trunk / wsgi - file = main.py processes = 4 stats = 127.0 . 0.1 : 9000 daemonize = / tmp / uwsgiServer.log pidfile = / tmp / uwsgi.pid vacuum = true log - maxsize = 50000000 disable - logging = true callable = app $ |
配置参数详解:
常用选项:
socket : 地址和端口号,例如:socket = 127.0.0.1:50000
processes : 开启的进程数量
workers : 开启的进程数量,等同于processes(官网的说法是spawn the specified number of workers / processes)
chdir : 指定运行目录(chdir to specified directory before apps loading)
wsgi-file : 载入wsgi-file(load .wsgi file)
stats : 在指定的地址上,开启状态服务(enable the stats server on the specified address)
threads : 运行线程。由于GIL的存在,我觉得这个真心没啥用。(run each worker in prethreaded mode with the specified number of threads)
master : 允许主进程存在(enable master process)
daemonize : 使进程在后台运行,并将日志打到指定的日志文件或者udp服务器(daemonize uWSGI)。实际上最常用的,还是把运行记录输出到一个本地文件上。
log-maxsize :以固定的文件大小(单位KB),切割日志文件。 例如:log-maxsize = 50000000 就是50M一个日志文件。
pidfile : 指定pid文件的位置,记录主进程的pid号。
vacuum : 当服务器退出的时候自动清理环境,删除unix socket文件和pid文件(try to remove all of the generated file/sockets)
disable-logging : 不记录请求信息的日志。只记录错误以及uWSGI内部消息到日志中。如果不开启这项,那么你的日志中会大量出现这种记录:
[pid: 347|app: 0|req: 106/367] 117.116.122.172 () {52 vars in 961 bytes} [Thu Jul 7 19:20:56 2016] POST /post => generated 65 bytes in 6 msecs (HTTP/1.1 200) 2 headers in 88 bytes (1 switches on core 0)
配置nginx
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
|
$ cat etc / nginx / servers / tongbupan.conf server { listen 80 ; server_name localhost; location / { include uwsgi_params; uwsgi_pass 127.0 . 0.1 : 9005 ; } location / webstatic / { expires 7d ; add_header Cache - Control public; alias / Users / suoning / probject / python_project / webstatic / trunk / ; } } $ $ nginx - t nginx: the configuration file / usr / local / etc / nginx / nginx.conf syntax is ok nginx: configuration file / usr / local / etc / nginx / nginx.conf test is successful $ $ nginx - s reload $ |
配置application
flask 示例
1
2
3
4
5
6
7
8
9
|
... app = Flask( 'pan' ) ... if __name__ = = '__main__' : # app.run(host='0.0.0.0', port=5000) app.run() # 注意:变量app对应uwsgi配置文件uwsgi.ini中 callable = app |
启动uwsgi
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
|
$ $ uwsgi - - ini / usr / local / etc / uwsgi.ini [uWSGI] getting INI configuration from / usr / local / etc / uwsgi.ini $ $ ps - ef|grep uwsgi 11428 1 0 11 : 40 下午 ?? 0 : 01.23 uwsgi - - ini / usr / local / etc / uwsgi.ini 11432 11428 0 11 : 40 下午 ?? 0 : 00.00 uwsgi - - ini / usr / local / etc / uwsgi.ini 11433 11428 0 11 : 40 下午 ?? 0 : 00.00 uwsgi - - ini / usr / local / etc / uwsgi.ini 11434 11428 0 11 : 40 下午 ?? 0 : 00.00 uwsgi - - ini / usr / local / etc / uwsgi.ini 11435 11428 0 11 : 40 下午 ?? 0 : 00.00 uwsgi - - ini / usr / local / etc / uwsgi.ini 11440 69240 0 11 : 40 下午 ttys000 0 : 00.00 grep uwsgi $ $ lsof - i tcp: 9000 COMMAND PID USER FD TYPE DEVICE SIZE / OFF NODE NAME uwsgi 11428 suoning 28u IPv4 0x5583e11534d24e73 0t0 TCP localhost:cslistener (LISTEN) $ $ lsof - i tcp: 9005 COMMAND PID USER FD TYPE DEVICE SIZE / OFF NODE NAME uwsgi 11428 suoning 6u IPv4 0x5583e11535699e73 0t0 TCP localhost: 9005 (LISTEN) uwsgi 11432 suoning 6u IPv4 0x5583e11535699e73 0t0 TCP localhost: 9005 (LISTEN) uwsgi 11433 suoning 6u IPv4 0x5583e11535699e73 0t0 TCP localhost: 9005 (LISTEN) uwsgi 11434 suoning 6u IPv4 0x5583e11535699e73 0t0 TCP localhost: 9005 (LISTEN) uwsgi 11435 suoning 6u IPv4 0x5583e11535699e73 0t0 TCP localhost: 9005 (LISTEN) $ |
FCGI
参考:http://webpy.org/cookbook/fastcgi-nginx
配置Nginx
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
|
$ cat etc / nginx / servers / pan.conf server { listen 80 ; server_name localhost; error_page 500 502 503 504 / 50x .html; location = / 50x .html { root html; } location / { fastcgi_param REQUEST_METHOD $request_method; fastcgi_param QUERY_STRING $query_string; fastcgi_param CONTENT_TYPE $content_type; fastcgi_param CONTENT_LENGTH $content_length; fastcgi_param GATEWAY_INTERFACE CGI / 1.1 ; fastcgi_param SERVER_SOFTWARE nginx / $nginx_version; fastcgi_param REMOTE_ADDR $remote_addr; fastcgi_param REMOTE_PORT $remote_port; fastcgi_param SERVER_ADDR $server_addr; fastcgi_param SERVER_PORT $server_port; fastcgi_param SERVER_NAME $server_name; fastcgi_param SERVER_PROTOCOL $server_protocol; fastcgi_param SCRIPT_FILENAME $fastcgi_script_name; fastcgi_param PATH_INFO $fastcgi_script_name; fastcgi_pass 127.0 . 0.1 : 9005 ; } location / webstatic / { expires 7d ; add_header Cache - Control public; alias / Users / suoning / probject / python_project / webstatic / trunk / ; } } $ |
配置application
简单示例
1
2
3
4
5
6
7
8
|
from flup.server.fcgi import WSGIServer from pan import app WSGIServer( app, bindAddress = (host, port), maxThreads = threads ).run() |
生产环境示例
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
|
#!/usr/bin/env python # -*- coding: utf-8 -*- __author__ = 'suoning' import sys import argparse from flup.server.fcgi import WSGIServer from lib.daemon import Daemon from pan import app APP_NAME = 'pan_platform' APP_INST_NAME = '20170501' parser = argparse.ArgumentParser(description = u 'Run an pan FastCGI server' ) parser.add_argument( 'command' , type = str , help = u 'command [start|stop|restart]' , choices = [ 'start' , 'stop' , 'restart' ]) parser.add_argument( '-p' , '--port' , type = int , help = u 'port of this server' , required = True ) parser.add_argument( '-t' , '--threads' , type = int , default = 50 , help = u 'max number of threads' ) parser.add_argument( '-host' , '--host' , default = '0.0.0.0' , help = u 'Listen to the main clause' ) class panPlatformDaemon(Daemon): def run( self ): # 运行服务 try : WSGIServer( app, bindAddress = (args.host, args.port), maxThreads = args.threads, umask = 0111 ).run() except : sys.stderr.write( 'oops' ) def gen_pidfile(port): return '/var/run/%s_%s_%d.pid' % (APP_NAME, APP_INST_NAME, port) if __name__ = = '__main__' : args = parser.parse_args() daemon = panPlatformDaemon(gen_pidfile(args.port)) if 'start' = = args.command: daemon.start() elif 'stop' = = args.command: daemon.stop() elif 'restart' = = args.command: daemon.restart() else : print "Unknown command" sys.exit( 2 ) sys.exit( 0 ) |
fastcgi协议和http协议在代码部署中的的优劣对比
- fastcgi虽然是二进制协议,相对于http协议,并不节省资源。二进制协议,只能节省数字的表达,比如 1234567,用字符串表示需要7个Byte,用数字就是4个Byte,而字符串到哪里都一样
- fastcgi在传输数据的时候,为了兼容cgi协议,还要带上一堆cgi的环境变量,所以和http协议相比,用fastcgi传输数据并不省,反而多一些
- fastcgi 唯一的优点是,它是长连接的,用户并发1000个request,fastcgi可能就用10个 链接转发给后端的appplication,如果用http协议,那来多少给多少,会向后端appplication 发起1000个请求
- http代理转发方式,在面对超高并发的情况下会出问题,因为,tcp协议栈当中,port是int16整型 你本地新建一个connect,需要消耗一个端口,最多能到65536。外部并发几十万个请求,port池耗干,你的服务器只能拒绝响应了
CGI, FCGI, SCGI, WSGI 区别
WIKI Links:
CGI - http://en.wikipedia.org/wiki/Common_Gateway_Interface
FCGI - http://en.wikipedia.org/wiki/Fcgi
SCGI - http://en.wikipedia.org/wiki/SCGI
WSGI - http://en.wikipedia.org/wiki/Wsgi
Other reference:
http://helpful.knobs-dials.com/index.php/CGI%2C_FastCGI%2C_SCGI%2C_WSGI%2C_servlets_and_such#FastCGI_and_SCGI
CGI = Common Gateway Interface
顾名思义,它是一种接口规范。该规范详细定义了Web服务器中运行的服务器代理程序,怎样获取及返回网页生成过程中,服务器环境上下文和HTTP协议中的参数名称,如大家所熟知的:REQUEST_METHOD,QUERY_STRING,CONTENT_TYPE等等。绝大部分的Web服务器程序,是以脚本的形式代理接受并处理HTTP请求,返回HTTP页面或响应。这些脚本程序,就是大家所熟知的PHP、ASP、JSP等等。
FCGI = Fast CGI
它其实是CGI在具体实现中的的一个变种。其设计思路是,通过减少CGI代理程序和Web宿主服务程序的通信开销,从而达到提高Web服务性能的最终目的。由此可见,FCGI在规范上跟CGI并没有不同,只是具体实现方式上有所改进:CGI的做法是,对于每个HTTP请求,Web宿主服务程序都建立新的进程以调用服务器脚本,相应该请求;FCGI的做法是,建立一个独立的FCGI服务程序进程,和Web宿主服务程序进程通信,FCGI服务进程被一旦启动后,自己分配资源、创建线程响应HTTP请求、并决定自身生命周期,从而大大降低了系统为了创建进程而做出的资源开销。现代流行的Web服务器程序,如PHP、ASP.Net,基本都是FCGI的实现。
SCGI = Simple CGI
它是FCGI在精简数据协议和响应过程后的产物。其设计目的是为了适应越来越多基于AJAX或REST的HTTP请求,而做出更快更简洁的应答。并且SCGI约定,当服务器返回对一个HTTP协议请求响应后,立刻关闭该HTTP连接。所以不难看出,SCGI更加适合于普遍意义上SOA所提倡的“请求-忘记”这种通信模式。
WSGI = Web Server Gateway Interface
此协议是Python语言的专利,它定义了一组在Web服务宿主程序和HTTP响应代理程序之间通信的普遍适用的接口。它的产生是因为Python程序员注意到,对于Web框架和Web宿主服务器程序间,有严重的耦合性,比如说,某些框架是针对Apache的mod_python设计的。于是,WSGI就定义了一套非常低级别的接口。常见的Python Web框架都实现了这个协议:如 CherryPy, Django, web.py, web2py, TurboGears, Tornado, Pylons, BlueBream, Google App Engine[dubious – discuss], Trac, Flask, Pyramid,等等.
以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,同时也希望多多支持服务器之家!
原文链接:http://www.cnblogs.com/suoning/p/6786621.html