一、说明
1)需求:
Rancher 上部署 Jenkins-master,服务采用 Jenkins-slave 发布,发布完成后 Jenkins-slave 自动销毁。
2)环境:
Rancher 2.2.7 (部署Rancher参考之前文章:离线安装 Rancher2.2.4 HA 集群)
Jenkins 2.176.2
二、安装 Jenkins
2.1 安装 Jenkins
在 Rancher 2 上部署 Jenkins-master
1)添加工作负载
名称:jenkins-master
Docker镜像:jenkins/jenkins:lts
命名空间:jenkins
数据卷:jenkins-master-pvc,容器路径:/var/jenkins_home
2)添加负载均衡
名称:jenkins-master
命名空间:jenkins
自定义域名:jenkinscicd.xxxxxx.com
服务/工作负载:jenkins-master
容器端口:
3)添加域名解析
jenkinscicd.xxxxxx.com 172.16.5.84(ingress lb 地址)
dig查看是否解析成功
dig jenkinscicd.xxxxxx.com
4)访问
、浏览器访问连接:jenkinscicd.xxxxxx.com 、在rancher上进入容器,查看密码
cat /var/jenkins_home/secrets/initialAdminPassword 、验证后选择安装推荐的插件 、重启jenkins
2.2 安装插件
Manage Jenkins -> Manage Plugins 安装 Kubernetes 和 Kubernetes Cli 插件
Kubernetes
Kubernetes Cli
说明:Kubernetes插件是可以增加Kubernetes云,Kubernetes Cli插件是用于jenkinsfile中kubectl容器可以使用withKubeConfig参数
2.3 添加凭据
添加4个全局凭据
)docker-registry:gitlab 镜像仓库凭据(类型:Username with password)
)gitlab:gitlab 凭据(类型:Username with password)
)kube:develop 集群的凭据(类型:Secret text)
)cicdkube:jenkins 所在k8s集群的凭据(类型:Secret text)
其中 kube 和 cicdkube 的Secret 为 rancher 对应的集群配置文件中的 token 值。
2.4 配置kubernetes云
系统设置,增加一个云(kubernetes)
1)名称:kubernetes
2)Kubernetes 地址:https://kubernetes.default
3)Kubernetes 命名空间:jenkins
4)凭据:cicd-kube (之前创建的cicdkube凭据,用于连接jenkins-master所在的集群)
5)Jenkins 地址:http://jenkins-master:8080
三、提交jenkinsfile文件
3.1 编写 yaml 文件
把 KubernetesPod.yaml 文件放在代码库根目录,内容如下:
metadata:
labels:
some-label: some-label-value
spec:
containers:
- name: jnlp
env:
- name: CONTAINER_ENV_VAR
value: jnlp
resources:
limits:
cpu:
memory: 1Gi
requests:
cpu:
memory: 1Gi
- name: maven
image: maven:3.6-alpine
command:
- cat
tty: true
env:
- name: CONTAINER_ENV_VAR
value: maven
volumeMounts:
- name: repo-maven-cache
mountPath: /root/.m2
- name: kubectl
image: cnych/kubectl
command:
- cat
tty: true
env:
- name: CONTAINER_ENV_VAR
value: kubectl
- name: docker
image: docker
command:
- cat
tty: true
env:
- name: CONTAINER_ENV_VAR
value: docker
volumeMounts:
- name: repo-docker-sock
mountPath: /var/run/docker.sock
volumes:
- name: repo-maven-cache
persistentVolumeClaim:
claimName: pvc-jenkins-maven-cache
- name: repo-docker-sock
hostPath:
path: /var/run/docker.sock
3.2 编写 jenkinsfile
把 Jenkinsfile 文件也放在代码库根目录,内容如下:
pipeline {
environment {
IMAGE_TAG = sh (returnStdout: true, script: 'echo "build-${BRANCH_NAME//\\//_}-$BUILD_NUMBER"').trim()
}
agent {
kubernetes {
defaultContainer 'maven'
yamlFile 'KubernetesPod.yaml'
}
}
stages {
stage('Run maven') {
steps {
container('maven') {
echo "代码编译打包"
sh 'mvn clean install'
}
}
}
stage('Build image') {
steps {
container('docker') {
script {
echo "构建Docker镜像"
def image = docker.build("reg.nexus.wmqhealth.com/tools/cicd-test:" + "$IMAGE_TAG", ".")
withDockerRegistry([credentialsId:'docker-registry', url:"https://reg.nexus.wmqhealth.com"]){
image.push()
}
}
}
}
}
stage('Deploy') {
steps {
container('kubectl') {
script {
echo "部署项目"
withKubeConfig(clusterName: 'develop', contextName: 'develop', credentialsId: 'kube', namespace: 'cicdtest', serverUrl: 'https://rancher.wmqhealth.com/k8s/clusters/c-xg99q') {
sh 'kubectl set image deployment/cicd-test cicd-test=reg.nexus.wmqhealth.com/tools/cicd-test:$IMAGE_TAG --namespace cicdtest'
}
}
}
}
}
}
}
四、构建项目
4.1新建jenkins项目
Property strategy:所有的分支获取同样的属性 -> Add property:不通过SCM自动化触发 (以免一进行扫描分支就进行构建项目)。
其他的默认即可,最后保存。
4.2 新建rancher项目
1)创建命名空间
在 develop 集群创建 cicdtest 命名空间
2)创建工作负载
名称和命名空间与jenkinsfile中定义保持一致。镜像随便写一个不存在的,部署pods数为0
4.3 构建
在jenkins 中点击构建
1、在jenkins所在的集群会动态生成 jenkins-slave pod
2、会打包上传镜像,并会更新develop集群中cicd-test的镜像信息
3、构建成功后,手动把pod数增加到1,这样项目就构建完成了。