一、背景介绍
在互联网应用快速更新迭代的大背景下,传统的人工手动或简单脚本已经不能适应此变化,此时devops为我们提供了良好的解决方案,应用好ci/cd可以大大的方便我们的日常工作,自动化快速的持续集成/持续交付为我们带来了应用开放的更快速度、更好的稳定性和更强的可靠性。
二、拓扑环境
2.1 架构拓扑
如上图实例,简单花了下流程拓扑:
- 当研发push本地代码到gitlab-server后,webhook自动触发jenkins构建应用
- 在docker host上部署应用git clone来自gitlabserver源码,并启动应用
- 前端可以放置lb来做高可用
- 数据库连接云数据库
- 可将日志存储在log后期投递到elk实现日志可视化
- 构建完成邮件通知相关人员(测试或开放)
2.2 系统软件版本
名称 | 版本 |
---|---|
linux系统 | centos7.3 64位 |
docker | 1.13 |
django | 2.0 |
三、安装部署
3.1 jenkins安装部署
jenkins安装部署可参考:jenkins笔记
安装完成后添加docker目标服务器
配置邮件发送服务器
3.2 docker安装部署
docker安装部署及dockerfile编写可参考:容器docker详解
3.3 gitlab安装部署
gitlab安装在公网linux服务器运行一些命令即可,如果没有公网需要手动修改 /etc/gitlab/gitlab.rb
文件的 external_url 'http://自己的内网ip'
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
|
yum install -y libsemanage-static libsemanage-devel policycoreutils openss
h-server openssh-clients postfix
systemctl enable postfix && systemctl start postfix
wget https: //mirrors .tuna.tsinghua.edu.cn /gitlab-ce/yum/el7/gitlab-ce-8 .0.
0-ce.0.el7.x86_64.rpm
rpm -i gitlab-ce-8.0.0-ce.0.el7.x86_64.rpm
# 获取公网ip
publicip=$(curl http: //ipv4 .icanhazip.com)
# 修改
sed -i "s/gitlab-server/${publicip}/g" /etc/gitlab/gitlab .rb
gitlab-ctl reconfigure
gitlab-ctl restart
echo "username:root"
echo "password:5ivel!fe"
|
3.4 配置发布流程
jenkins新建构建一个*风格的软件项目
利用参数化构建方便后续部署docker传入映射的源端口和release
源代码来自gitlab的django项目
利用webhook关联gitlab和jenkins
jenkins安装插件:
生成随机token值
将jenkins生成的gitlab webhook url配置到gitlab
当开发者在本地push代码后自动触发jenkins构建项目,有dockerfile内写的git pull代码,再次不用将代码由jenkins分发到docker宿主机,jenkins作为触发docker构建使用
配置构建完成后的邮件
邮件模版,邮件类型选择:
内容类型选择:html
邮件主题填写: 构建通知:${build_status} - ${project_name} - build # ${build_number} !
构建通知模版:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
|
<!doctype html>
< html >
< head >
< meta charset = "utf-8" >
< title >${env, var="job_name"}-第${build_number}次构建日志</ title >
</ head >
< body leftmargin = "8" marginwidth = "0" topmargin = "8" marginheight = "4"
offset = "0" >
< table width = "95%" cellpadding = "0" cellspacing = "0"
style = "font-size: 11pt; font-family: tahoma, arial, helvetica, sans-serif" >
< tr >
< td >(本邮件是程序自动下发的,请勿回复!)</ td >
</ tr >
< tr >
< td >< h2 >
< font color = "#0000ff" >构建结果 - ${build_status}</ font >
</ h2 ></ td >
</ tr >
< tr >
< td >< br />
< b >< font color = "#0b610b" >构建信息</ font ></ b >
< hr size = "2" width = "100%" align = "center" /></ td >
</ tr >
< tr >
< td >
< ul >
< li >项目名称 : ${project_name}</ li >
< li >构建编号 : 第${build_number}次构建</ li >
< li >svn 版本: ${svn_revision}</ li >
< li >触发原因: ${cause}</ li >
< li >构建日志: < a href = "${build_url}console" >${build_url}console</ a ></ li >
< li >构建 url : < a href = "${build_url}" >${build_url}</ a ></ li >
< li >工作目录 : < a href = "${project_url}ws" >${project_url}ws</ a ></ li >
< li >项目 url : < a href = "${project_url}" >${project_url}</ a ></ li >
</ ul >
</ td >
</ tr >
< tr >
< td >< b >< font color = "#0b610b" >changes since last
successful build:</ font ></ b >
< hr size = "2" width = "100%" align = "center" /></ td >
</ tr >
< tr >
< td >
< ul >
< li >历史变更记录 : < a href = "${project_url}changes" >${project_url}changes</ a ></ li >
</ ul > ${changes_since_last_success,reverse=true, format="changes for build #%n:< br />%c< br />",showpaths=true,changesformat="< pre >[%a]< br />%m</ pre >",pathformat=" %p"}
</ td >
</ tr >
< tr >
< td >< b >failed test results</ b >
< hr size = "2" width = "100%" align = "center" /></ td >
</ tr >
< tr >
< td >< pre
style = "font-size: 11pt; font-family: tahoma, arial, helvetica, sans-serif" >$failed_tests</ pre >
< br /></ td >
</ tr >
< tr >
< td >< b >< font color = "#0b610b" >构建日志 (最后 100行):</ font ></ b >
< hr size = "2" width = "100%" align = "center" /></ td >
</ tr >
<!-- <tr>
<td>test logs (if test has ran): <a
href="${project_url}ws/testresult/archive_logs/log-build-${build_number}.zip">${project_url}/ws/testresult/archive_logs/log-build-${build_number}.zip</a>
<br />
<br />
</td>
</tr> -->
< tr >
< td >< textarea cols = "80" rows = "30" readonly = "readonly"
style = "font-family: courier new" >${build_log, maxlines=100}</ textarea >
</ td >
</ tr >
</ table >
</ body >
</ html >
|
触发类型可根据自身需要填写,这里填写always无论成功还是失败都发送邮件
查看远程docker服务器内的文件
django部署已经利用conda打包好了项目的python3.6的环境包自制了docker镜像
之前利用的是纯净的python3.6系统,在每次构建的时候利用pip安装requirements.txt的模块,但是长此以往由于环境变化很少,每次需要pip安装耗时,所以利用conda将打包好的python环境自制成定制化环境,以此来减少环境部署时间,也可以通过docker镜像制作是-v参数将本地磁盘挂载在环境内,每次构建本地的conda即可,完成快速环境部署。
查看dockerfile
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
|
from 87a69025db6a
maintainer kaliarch
# 定义docker中工作目录
env work_dir /work/
# 创建docker内工作目录
run mkdir $work_dir
# 定义映射端口
expose 80
workdir $work_dir
run git clone http: //123 .xxxx.xxxxx.245 /devops/go2cloud .git
# 添加启动服务脚本
add *.sh ${work_dir}
cmd ` which bash ` /work/start_all .sh && tail -f /work/logs/server- $( date +%f).log
|
查看django启动脚本
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
|
#!/bin/bash
basepath=$( cd ` dirname $0`; pwd )
py_cmd= /python3/bin/python
# 服务入口文件
#main_app=${basepath}/go2cloud/manage.py
# 迁移脚本入口文件
scripts_app=${basepath} /go2cloud/scripts/migrate_task_schdule .py
# 删除脚本入口文件
delete_app=${basepath} /go2cloud/scripts/delete_transfer_server .py
# 日志目录
log_dir=${basepath} /logs/
[ ! -d ${log_dir} ] && mkdir ${log_dir}
# 启动服务
#nohup ${py_cmd} -u ${main_app} runserver 0.0.0.0:80 >> ${log_dir}server-$(date +%f).log 2>&1 &
# 启动脚本迁移调度脚本
echo "---------$0 $(date) excute----------" >> ${log_dir}task-script-$( date +%f).log
nohup ${py_cmd} -u ${scripts_app} >> ${log_dir}script-$( date +%f).log 2>&1 &
# 启动迁移删除脚本
echo "---------$0 $(date) excute----------" >> ${log_dir}delete-script-$( date +%f).log
nohup ${py_cmd} -u ${delete_app} >> ${log_dir}delete-script-$( date +%f).log 2>&1 &
|
查看jenkins部署脚本
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
|
#!/bin/bash
release=$1
port=$2
basepath=$( cd ` dirname $0`; pwd )
# 构建go2cloud-platform 镜像
cd /dockerwork
docker build -t go2cloud-platform-mini:$release .
imgname=$(docker images| awk - v release=$release '{if($1=="go2cloud-platform-mini" && $2==release) print $3}' )
echo $imgname
# 启动容器
docker run -d -p ${port}:80 - v /testlog/ : /work/logs ${imgname}
|
利用-v参数将日志持续化存储到docker 宿主机之上
四、测试展示
4.1 测试构建
手动构建测试
4.2 查看log
4.3 查看docker容器
4.4 测试app
五、反思改进
- 目前数据库连接的为云服务器搭建的数据库,后期数据库也利用docker,多组采用docker-compose统一部署管理
- 后期可以利用利用公有云k8s集群进行方便测试
- 目前docker容器产生的日志在docker宿主机上,后期可以将其存储在cos上,再投递到elk集群日志可视化处理
- 将镜像统一管理制作本地镜像仓库
- gitlab添加code review并结合自动测试
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持服务器之家。
原文链接:http://blog.51cto.com/kaliarch/2337551