一、背景介绍
在互联网应用快速更新迭代的大背景下，传统的人工手动或简单脚本已经不能适应此变化，此时devops为我们提供了良好的解决方案，应用好ci/cd可以大大的方便我们的日常工作，自动化快速的持续集成/持续交付为我们带来了应用开放的更快速度、更好的稳定性和更强的可靠性。
二、拓扑环境
2.1 架构拓扑
如上图实例，简单花了下流程拓扑：
- 当研发push本地代码到gitlab-server后，webhook自动触发jenkins构建应用
- 在docker host上部署应用git clone来自gitlabserver源码，并启动应用
- 前端可以放置lb来做高可用
- 数据库连接云数据库
- 可将日志存储在log后期投递到elk实现日志可视化
- 构建完成邮件通知相关人员（测试或开放）
2.2 系统软件版本
| 名称 | 版本 |
|---|---|
| linux系统 | centos7.3 64位 |
| docker | 1.13 |
| django | 2.0 |
三、安装部署
3.1 jenkins安装部署
jenkins安装部署可参考：jenkins笔记
安装完成后添加docker目标服务器
配置邮件发送服务器
3.2 docker安装部署
docker安装部署及dockerfile编写可参考：容器docker详解
3.3 gitlab安装部署
gitlab安装在公网linux服务器运行一些命令即可，如果没有公网需要手动修改 /etc/gitlab/gitlab.rb 文件的 external_url 'http://自己的内网ip'
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
|
yum install -y libsemanage-static libsemanage-devel policycoreutils openssh-server openssh-clients postfixsystemctl enable postfix && systemctl start postfixwget https://mirrors.tuna.tsinghua.edu.cn/gitlab-ce/yum/el7/gitlab-ce-8.0.0-ce.0.el7.x86_64.rpmrpm -i gitlab-ce-8.0.0-ce.0.el7.x86_64.rpm# 获取公网ippublicip=$(curl http://ipv4.icanhazip.com)# 修改sed -i "s/gitlab-server/${publicip}/g" /etc/gitlab/gitlab.rbgitlab-ctl reconfiguregitlab-ctl restartecho "username:root"echo "password:5ivel!fe" |
3.4 配置发布流程
jenkins新建构建一个自由风格的软件项目
利用参数化构建方便后续部署docker传入映射的源端口和release
源代码来自gitlab的django项目
利用webhook关联gitlab和jenkins
jenkins安装插件：
生成随机token值
将jenkins生成的gitlab webhook url配置到gitlab
当开发者在本地push代码后自动触发jenkins构建项目，有dockerfile内写的git pull代码，再次不用将代码由jenkins分发到docker宿主机，jenkins作为触发docker构建使用
配置构建完成后的邮件
邮件模版，邮件类型选择：
内容类型选择：html
邮件主题填写： 构建通知:${build_status} - ${project_name} - build # ${build_number} !
构建通知模版：
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
|
<!doctype html><html><head><meta charset="utf-8"><title>${env, var="job_name"}-第${build_number}次构建日志</title></head><body leftmargin="8" marginwidth="0" topmargin="8" marginheight="4" offset="0"> <table width="95%" cellpadding="0" cellspacing="0" style="font-size: 11pt; font-family: tahoma, arial, helvetica, sans-serif"> <tr> <td>(本邮件是程序自动下发的，请勿回复！)</td> </tr> <tr> <td><h2> <font color="#0000ff">构建结果 - ${build_status}</font> </h2></td> </tr> <tr> <td><br /> <b><font color="#0b610b">构建信息</font></b> <hr size="2" width="100%" align="center" /></td> </tr> <tr> <td> <ul> <li>项目名称 ： ${project_name}</li> <li>构建编号 ： 第${build_number}次构建</li> <li>svn 版本： ${svn_revision}</li> <li>触发原因： ${cause}</li> <li>构建日志： <a href="${build_url}console">${build_url}console</a></li> <li>构建 url ： <a href="${build_url}">${build_url}</a></li> <li>工作目录 ： <a href="${project_url}ws">${project_url}ws</a></li> <li>项目 url ： <a href="${project_url}">${project_url}</a></li> </ul> </td> </tr> <tr> <td><b><font color="#0b610b">changes since last successful build:</font></b> <hr size="2" width="100%" align="center" /></td> </tr> <tr> <td> <ul> <li>历史变更记录 : <a href="${project_url}changes">${project_url}changes</a></li> </ul> ${changes_since_last_success,reverse=true, format="changes for build #%n:<br />%c<br />",showpaths=true,changesformat="<pre>[%a]<br />%m</pre>",pathformat=" %p"} </td> </tr> <tr> <td><b>failed test results</b> <hr size="2" width="100%" align="center" /></td> </tr> <tr> <td><pre style="font-size: 11pt; font-family: tahoma, arial, helvetica, sans-serif">$failed_tests</pre> <br /></td> </tr> <tr> <td><b><font color="#0b610b">构建日志 (最后 100行):</font></b> <hr size="2" width="100%" align="center" /></td> </tr> <!-- <tr> <td>test logs (if test has ran): <a href="${project_url}ws/testresult/archive_logs/log-build-${build_number}.zip">${project_url}/ws/testresult/archive_logs/log-build-${build_number}.zip</a> <br /> <br /> </td> </tr> --> <tr> <td><textarea cols="80" rows="30" readonly="readonly" style="font-family: courier new">${build_log, maxlines=100}</textarea> </td> </tr> </table></body></html> |
触发类型可根据自身需要填写，这里填写always无论成功还是失败都发送邮件
查看远程docker服务器内的文件
django部署已经利用conda打包好了项目的python3.6的环境包自制了docker镜像
之前利用的是纯净的python3.6系统，在每次构建的时候利用pip安装requirements.txt的模块，但是长此以往由于环境变化很少，每次需要pip安装耗时，所以利用conda将打包好的python环境自制成定制化环境，以此来减少环境部署时间，也可以通过docker镜像制作是-v参数将本地磁盘挂载在环境内，每次构建本地的conda即可，完成快速环境部署。
查看dockerfile
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
|
from 87a69025db6amaintainer kaliarch# 定义docker中工作目录env work_dir /work/# 创建docker内工作目录run mkdir $work_dir# 定义映射端口expose 80workdir $work_dir run git clone http://123.xxxx.xxxxx.245/devops/go2cloud.git# 添加启动服务脚本add *.sh ${work_dir}cmd `which bash` /work/start_all.sh && tail -f /work/logs/server-$(date +%f).log |
查看django启动脚本
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
|
#!/bin/bashbasepath=$(cd `dirname $0`;pwd)py_cmd=/python3/bin/python# 服务入口文件#main_app=${basepath}/go2cloud/manage.py # 迁移脚本入口文件scripts_app=${basepath}/go2cloud/scripts/migrate_task_schdule.py# 删除脚本入口文件delete_app=${basepath}/go2cloud/scripts/delete_transfer_server.py# 日志目录log_dir=${basepath}/logs/[ ! -d ${log_dir} ] && mkdir ${log_dir}# 启动服务#nohup ${py_cmd} -u ${main_app} runserver 0.0.0.0:80 >> ${log_dir}server-$(date +%f).log 2>&1 &# 启动脚本迁移调度脚本echo "---------$0 $(date) excute----------" >> ${log_dir}task-script-$(date +%f).lognohup ${py_cmd} -u ${scripts_app} >> ${log_dir}script-$(date +%f).log 2>&1 &# 启动迁移删除脚本echo "---------$0 $(date) excute----------" >> ${log_dir}delete-script-$(date +%f).lognohup ${py_cmd} -u ${delete_app} >> ${log_dir}delete-script-$(date +%f).log 2>&1 & |
查看jenkins部署脚本
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
|
#!/bin/bashrelease=$1port=$2basepath=$(cd `dirname $0`;pwd)# 构建go2cloud-platform 镜像cd /dockerworkdocker build -t go2cloud-platform-mini:$release .imgname=$(docker images|awk -v release=$release '{if($1=="go2cloud-platform-mini" && $2==release) print $3}')echo $imgname# 启动容器docker run -d -p ${port}:80 -v /testlog/:/work/logs ${imgname} |
利用-v参数将日志持续化存储到docker 宿主机之上
四、测试展示
4.1 测试构建
手动构建测试
4.2 查看log
4.3 查看docker容器
4.4 测试app
五、反思改进
- 目前数据库连接的为云服务器搭建的数据库，后期数据库也利用docker，多组采用docker-compose统一部署管理
- 后期可以利用利用公有云k8s集群进行方便测试
- 目前docker容器产生的日志在docker宿主机上，后期可以将其存储在cos上，再投递到elk集群日志可视化处理
- 将镜像统一管理制作本地镜像仓库
- gitlab添加code review并结合自动测试
以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持服务器之家。
原文链接：http://blog.51cto.com/kaliarch/2337551
