基于Jenkins和k8s构建企业级DevOps容器云平台
1.1 什么是DevOps?
DevOps中的Dev是Devlopment(开发),Ops是Operation(运维),用一句话来说 DevOps 就是打通开发运维的壁垒,实现开发运维一体化。DevOps整个流程包括敏捷开发->持续集成->持续交付->持续部署。
1.1.1 敏捷开发
提高开发效率,及时跟进用户需求,缩短开发周期。
敏捷开发包括编写代码和构建代码两个阶段,可以使用git或者svn来管理代码,用maven对代码进行构建
1.1.2 持续集成(CI)
持续集成强调开发人员提交了新代码之后,立刻自动的进行构建、(单元)测试。根据测试结果,我们可以确定新代码和原有代码能否正确地集成在一起。持续集成过程中很重视自动化测试验证结果,对可能出现的一些问题进行预警,以保障最终合并的代码没有问题。
常见的持续集成工具:
1. Jenkins
Jenkins是用Java语言编写的,是目前使用最多和最受欢迎的持续集成工具,使用Jenkins,可以自动监测到git或者svn存储库代码的更新,基于最新的代码进行构建,把构建好的源码或者镜像发布到生产环境。Jenkins还有个非常好的功能:它可以在多台机器上进行分布式地构建和负载测试
2. TeamCity
3. Travis CI
4. GoCD
5. Bamboo
6. GitLab CI
7. Codeship
它的好处主要有以下几点:
1)较早的发现错误:每次集成都通过自动化的构建(包括编译,发布,自动化测试)来验证,哪个环节出现问题都可以较早的发现。
2)快速的发现错误:每完成一部分代码的更新,就会把代码集成到主干中,这样就可以快速的发现错误,比较容易的定位错误。
3)提升团队绩效:持续集成中代码更新速度快,能及时发现小问题并进行修改,使团队能创造出更好的产品。
4)防止分支过多的偏离主干:经常持续集成,会使分支代码经常向主干更新,当单元测试失败或者出现bug,如果开发者需要在没有调试的情况下恢复仓库的代码到没有bug的状态,只有很小部分的代码会丢失。
持续集成的目的是提高代码质量,让产品快速的更新迭代。它的核心措施是,代码集成到主干之前,必须通过自动化测试。只要有一个测试用例失败,就不能集成。
Martin Fowler说过,"持续集成并不能消除Bug,而是让它们非常容易发现和改正。"
互动:Martin Fowler是谁?
马丁·福勒
马丁·福勒是一个软件开发方面的著作者和国际知名演说家,专注于面向对象分析与设计,统一建模语言,领域建模,以及敏捷软件开发方法,包括极限编程。
与持续集成相关的还有持续交付和持续部署。
1.1.3 持续交付
持续交付在持续集成的基础上,将集成后的代码部署到更贴近真实运行环境的「类生产环境」(production-like environments)中。交付给质量团队或者用户,以供评审。如果评审通过,代码就进入生产阶段。如果所有的代码完成之后一起交付,会导致很多问题爆发出来,解决起来很麻烦,所以持续集成,也就是每更新一次代码,都向下交付一次,这样可以及时发现问题,及时解决,防止问题大量堆积。
1.1.4 持续部署
持续部署是指当交付的代码通过评审之后,自动部署到生产环境中。持续部署是持续交付的最高阶段。Puppet,SaltStack和Ansible是这个阶段使用的流行工具。容器化工具在部署阶段也发挥着重要作用。Docker和k8s是流行的工具,有助于在开发,测试和生产环境中实现一致性。除此之外,k8s还可以实现自动扩容缩容等功能。
1.2 k8s在DevOps中可实现的功能
1.2.1 自动化
敏捷开发->持续集成->持续交付->持续部署。
1.2.2 多集群管理
可以根据客户需求对开发,测试,生产环境部署多套kubernetes集群,每个环境使用独立的物理资源,相互之间避免影响。
1.2.3 多环境一致性
Kubernetes是基于docker的容器编排工具,因为容器的镜像是不可变的,所以镜像把OS、业务代码、运行环境、程序库、目录结构都包含在内,镜像保存在我们的私有仓库,只要用户从我们提供的私有仓库拉取镜像,就能保证环境的一致性。
1.2.4 实时反馈和智能化报表
每次集成或交付,都会第一时间将结果通过多途径的方式反馈给你,也可以定制适合企业专用的报表平台。
1.3 Jenkins+K8S+harbor+git+sonarqube+nexus构建DevOps容器云平台流程
Jenkins是开源的CI&CD工具, 提供超过1000个插件来支持构建、部署、自动化, 满足任何项目的需要。完整的DevOps流程:
开发提交代码到代码仓库gitlab-àjenkins检测到代码更新-à调用k8s api在k8s中创建jenkins slave pod:
d拉取代码---à通过maven把拉取的代码进行构建成war包或者jar包--->上传代码到Sonarqube,进行静态代码扫描- -->基于war包构建docker image-->把镜像上传到harbor镜像仓库-->基于镜像部署应用到开发环境-->部署应用到测试环境--->部署应用到生产环境。
实战1:基于Jenkins+k8s+Git等技术链构建企业级DevOps自动化容器云平台
1、安装Jenkins
可用如下两种方法
1)通过docker直接下载jenkins镜像,基于镜像启动服务
2)在k8s中部署Jenkins服务
2、安装nfs服务
#选择自己的任意一台机器,我选择k8s的控制节点master1
1)、在master1上安装nfs,作为服务端
[root@master1 ~]# yum install nfs-utils -y
[root@master1 ~]# systemctl start nfs
[root@master1 ~]# systemctl enable nfs
2)、在node2和node1上安装nfs,作为客户端
yum install nfs-utils -y
systemctl start nfs
systemctl enable nfs
3)、在master1上创建一个nfs共享目录
[root@master1 ~]# mkdir /data/v1 -p
[root@master1 ~]# cat /etc/exports
/data/v1 192.168.40.0/24(rw,no_root_squash)
#使配置文件生效
[root@master1 ~]# exportfs -arv
[root@master1 ~]# systemctl restart nfs
3、在kubernetes中部署jenkins
(1)创建名称空间
[root@master1 ~]# kubectl create namespace jenkins-k8s
(2)创建pv
[root@master1 ~]# cat pv.yaml
#跟新资源清单文件
[root@master1 ~]# kubectl apply -f pv.yaml
(3)创建pvc
[root@master1 ~]# cat pvc.yaml
#更新资源清单文件
[root@master1 ~]# kubectl apply -f pvc.yaml
#查看pvc和pv绑定是否成功
[root@master1 ~]# kubectl get pvc -n jenkins-k8s
NAME STATUS VOLUME CAPACITY ACCESS MODES STORAGECLASS
jenkins-k8s-pvc Bound jenkins-k8s-pv 10Gi RWX
(4)创建一个sa账号
[root@master1 ~]# kubectl create sa jenkins-k8s-sa -n jenkins-k8s
(5)把上面的sa账号做rbac授权
[root@master1 ~]# kubectl create clusterrolebinding jenkins-k8s-sa-cluster -n jenkins-k8s --clusterrole=cluster-admin --serviceaccount=jenkins-k8s:jenkins-k8s-sa
(6)通过deployment部署jenkins
注:下面实验用到的镜像是jenkins.tar.gz和jenkins-jnlp.tar.gz,把这两个压缩包上传到k8s的node1和node2节点,用如下方法手动解压:
docker load -i jenkins.tar.gz
docker load -i jenkins-jnlp.tar.gz
[root@master1 ~]# cat jenkins-deployment.yaml
#更新资源清单文件
kubectl apply -f jenkins-deployment.yaml
[root@master1 ~]# kubectl get pods -n jenkins-k8s
NAME READY STATUS RESTARTS AGE
jenkins-74b4c59549-qvmrt 0/1 CrashLoopBackOff 1 15s
#上面可以看到CrashLoopBackOff,解决方法如下:
#查看jenkins-74b4c59549-qvmrt日志
[root@master1 ~]# kubectl logs jenkins-74b4c59549-qvmrt -n jenkins-k8s
touch: cannot touch '/var/jenkins_home/copy_reference_file.log': Permission denied
#上面问题是因为/data/v1目录权限问题,按如下方法解决:
[root@master1 ~]# chown -R 1000.1000 /data/v1/
[root@master1 ~]# kubectl delete -f jenkins-deployment.yaml
[root@master1 ~]# kubectl apply -f jenkins-deployment.yaml
[root@master1 ~]# kubectl get pods -n jenkins-k8s
NAME READY STATUS RESTARTS AGE
jenkins-74b4c59549-gp95l 1/1 Running 0 16s
(7)把jenkins前端加上service,提供外部网络访问
[root@master1 ~]# cat jenkins-service.yaml
#更新资源清单文件
[root@master1 ~]# kubectl apply -f jenkins-service.yaml
[root@master1 ~]# kubectl get svc -n jenkins-k8s
NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S)
jenkins-service NodePort 10.110.34.67 <none> 8080:30002/TCP,50000:32331/TCP
4、配置Jenkins
在浏览器访问jenkins的web界面:
http://192.168.40.130:30002/login?from=%2F
1)获取管理员密码
在nfs服务端,也就是我们的master1节点获取密码:
[root@master1 ~]# cat /data/v1/jenkins-home/secrets/initialAdminPassword
f9b0b4400c4a4d6eaec6762616db6d63
把获取到的密码拷贝到上面管理员密码下的方框里
点击继续,出现如下界面
2)安装插件
安装推荐的插件
插件安装好之后显示如下
3)创建第一个管理员用户
用户名和密码都设置成admin,线上环境需要设置成复杂的密码
修改好之后点击保存并完成,出现如下界面
点击保存并完成,出现如下界面
点击保存并完成,出现如下界面
点击开始使用Jenkins
5、测试jenkins的CI/CD
#在Jenkins中安装kubernetes插件
(1)在jenkins中安装k8s插件
ManageJnekins------>插件管理------>可选插件------>搜索kubernetes------>出现如下
选中kubernetes之后------>点击下面的直接安装------>安装之后选择重新启动jenkins---> http://192.168.40.130:30002/restart-->重启之后登陆jenkins即可
#配置jenkins连接到我们存在的k8s集群
(1)访问http://192.168.40.130:30002/configureClouds/
新增一个云,在下拉菜单中选择kubernets并添加
(2)填写云kubernetes配置内容
kubernetes
https://192.168.40.130:6443
(3)测试jenkins和k8s是否可以通信
点击连接测试,如果显示Connection test successful或者显示Connected to Kubernetes 1.20
说明测试成功,Jenkins可以和k8s进行通信
配置k8s集群的时候jenkins地址需要写上面域名的形式,配置之后执行如下:
http://jenkins-service.jenkins-k8s.svc.cluster.local:8080
应用------>保存
(1)配置pod template
访问http://192.168.40.130:30002/configureClouds/
添加Pod模板------>KubernetesPod Template--->按如下配置
(2)在上面的podtemplate下添加容器
添加容器------>Container Template------>按如下配置------>
Docker镜像:使用jenkins-jnlp.tar.gz解压出来的镜像,把这个镜像上传到k8s的各node节点,手动解压:docker load -ijenkins-jnlp.tar.gz
解压出来的镜像是xianchao/jenkins-jnlp:v1
在每一个pod template右下脚都有一个Advanced,点击Advanced,出现如下
在ServiceAccount处输入jenkins-k8s-sa,这个sa就是我们最开始安装jenkins时的sa
(3)给上面的podtemplate添加卷
添加卷------>选择Host Path Volume
/var/run/docker.sock
/var/run/docker.sock
/root/.kube
/home/jenkins/.kube
上面配置好之后,应用------>保存
#添加dockerhub凭据
注意:下面需要用到dockerhub存放镜像,大家如果没有dockerhub可以自己申请一个
首页------>系统管理----à管理凭据--à全局--à添加凭据
username:xianchao
password:1989*****
ID:dockerhub
描述:这个地方随便写
上面修改好之后选择确定即可#测试通过Jenkins发布代码到k8s开发环境、测试环境、生产环境
在k8s的控制节点创建名称空间:
[root@master1 ~]# kubectl create ns devlopment
namespace/devlopment created
[root@master1 ~]# kubectl create ns production
namespace/production created
[root@master1 ~]# kubectl create ns qatest
namespace/qatest created回到首页:
新建一个任务------>输入一个任务名称处输入jenkins-variable-test-deploy------>流水线------>确定------>在Pipeline script处输入如下内容
node('testhan') {stage('Clone') {echo "1.Clone Stage"git url: "https://github.com/luckylucky421/jenkins-sample.git"script {build_tag = sh(returnStdout: true, script: 'git rev-parse --short HEAD').trim()}}stage('Test') {echo "2.Test Stage"}stage('Build') {echo "3.Build Docker Image Stage"sh "docker build -t xianchao/jenkins-demo:${build_tag} ."}stage('Push') {echo "4.Push Docker Image Stage"withCredentials([usernamePassword(credentialsId: 'dockerhub', passwordVariable: 'dockerHubPassword', usernameVariable: 'dockerHubUser')]) {sh "docker login -u ${dockerHubUser} -p ${dockerHubPassword}"sh "docker push xianchao/jenkins-demo:${build_tag}"}}stage('Deploy to dev') {echo "5. Deploy DEV"sh "sed -i 's/<BUILD_TAG>/${build_tag}/' k8s-dev.yaml"sh "sed -i 's/<BRANCH_NAME>/${env.BRANCH_NAME}/' k8s-dev.yaml"
// sh "bash running-devlopment.sh"sh "kubectl apply -f k8s-dev.yaml --validate=false"} stage('Promote to qa') { def userInput = input(id: 'userInput',message: 'Promote to qa?',parameters: [[$class: 'ChoiceParameterDefinition',choices: "YES\nNO",name: 'Env']])echo "This is a deploy step to ${userInput}"if (userInput == "YES") {sh "sed -i 's/<BUILD_TAG>/${build_tag}/' k8s-qa.yaml"sh "sed -i 's/<BRANCH_NAME>/${env.BRANCH_NAME}/' k8s-qa.yaml"
// sh "bash running-qa.sh"sh "kubectl apply -f k8s-qa.yaml --validate=false"sh "sleep 6"sh "kubectl get pods -n qatest"} else {//exit}}stage('Promote to pro') { def userInput = input(id: 'userInput',message: 'Promote to pro?',parameters: [[$class: 'ChoiceParameterDefinition',choices: "YES\nNO",name: 'Env']])echo "This is a deploy step to ${userInput}"if (userInput == "YES") {sh "sed -i 's/<BUILD_TAG>/${build_tag}/' k8s-prod.yaml"sh "sed -i 's/<BRANCH_NAME>/${env.BRANCH_NAME}/' k8s-prod.yaml"
// sh "bash running-production.sh"sh "cat k8s-prod.yaml"sh "kubectl apply -f k8s-prod.yaml --record --validate=false"}}
}应用------>保存------>立即构建
在左侧可以看到构建任务,如下所示:
点击Input request,部署应用到预生产环境
点击Input request,部署应用到生产环境
看到Finished:SUCCESS,,说明pipeline构建任务完成6、验证开发、预生产、生产环境部署的应用是否正常运行
[root@master1 ~]# kubectl get pods -n devlopment
NAME READY STATUS RESTARTS AGE
jenkins-demo-784885d9c9-b4jkg 1/1 Running 0 6m18s
[root@master1 ~]# kubectl get pods -n qatest
NAME READY STATUS RESTARTS AGE
jenkins-demo-784885d9c9-59tsm 1/1 Running 0 5m19s
[root@master1 ~]# kubectl get pods -n production
NAME READY STATUS RESTARTS AGE
jenkins-demo-784885d9c9-42hz4 1/1 running 0 5m38s
实战2:Jenkins管理插件BlueOcean配置和使用
# BlueOcean是什么?
为了适应Jenkins Pipeline和 Freestyle jobs任务,Jenkins推出了BlueOcean UI,其目的就是让程序员执行任务时,降低工作流程的复杂度和提升工作流程的清晰度,它具有如下特征:
1、清晰的可视化:对CI/CD pipelines, 可以快速直观的观察项目pipeline状态。
2、pipeline可编辑:引导用户通过直观的、可视化的过程来创建Pipeline,从而使Pipeline的创建变得平易近人。
3、pipeline精确度:通过UI直接介入pipeline的中间问题。
#安装BlueOcean插件
主页—>系统管理插件管理可选插件—>过滤BlueOcean直接安装
安装完成后,重启jenkins
http://192.168.40.130:30002/restart
重启进入jenkins之后,在主页左侧可以看到打开Blue Ocean
实战3:Jenkins实现k8s应用按照指定版本回滚
回到首页:
新建一个任务------>输入一个任务名称处输入jenkins-variable-test-deploy-rollout------>流水线------>确定------>在Pipeline script处输入如下内容node('testhan') {stage('git clone') {git url: "https://github.com/luckylucky421/jenkins-rollout"sh "ls -al"sh "pwd"
}stage('select env') {def envInput = input(id: 'envInput',message: 'Choose a deploy environment',parameters: [[$class: 'ChoiceParameterDefinition',choices: "devlopment\nqatest\nproduction",name: 'Env']]
)
echo "This is a deploy step to ${envInput}"
sh "sed -i 's/<namespace>/${envInput}/' getVersion.sh"
sh "sed -i 's/<namespace>/${envInput}/' rollout.sh"
sh "bash getVersion.sh"
// env.WORKSPACE = pwd()
// def version = readFile "${env.WORKSPACE}/version.csv"
// println version
}stage('select version') {env.WORKSPACE = pwd()def version = readFile "${env.WORKSPACE}/version.csv"println versiondef userInput = input(id: 'userInput',message: '选择回滚版本',parameters: [[$class: 'ChoiceParameterDefinition',choices: "$version\n",name: 'Version']]
)sh "sed -i 's/<version>/${userInput}/' rollout.sh"
}stage('rollout deploy') {sh "bash rollout.sh"
}
}
点击应用->保存-立即构建
END
精彩文章推荐
从0开始轻松玩转k8s,助力企业实现智能化转型+世界500强实战项目汇总
Nginx如何限流?
使用 root 用户执行Docker、K8s命令?No!
GitLab 持续集成
使用k3s部署轻量Kubernetes集群快速教程
K8S 常见面试题总结
K8s 超详细总结!
两大容器管理平台,Kubernetes与OpenShift有什么区别?
从0开始轻松玩转k8s,助力企业实现智能化转型+世界500强实战项目汇总
容器运行时Containerd基础
Docker+k8s+DevOps+CKA+k8s故障排查训练营
技术交流
为了大家更快速的学习知识,掌握技术,随时沟通交流问题,特组建了技术交流群,大家在群里可以分享自己的技术栈,抛出日常问题,群里会有很多大佬及时解答的,这样我们就会结识很多志同道合的人,长按或者扫描下图二维码可加我微信,备注运维或者k8s或者devops即可进群,让我们共同的努力,向着美好的未来出发吧~~,想要免费获取linux、k8s、DevOps、Openstack、Openshift、运维、开发、测试、架构师、Python、Go、面试文档、容器、岗位内推等资料也可进群获取哈~~
微信: luckylucky421302
点击阅读原文 | 即刻学习
微信公众号
点亮,服务器10年不宕机
点击阅读原文即可了解更多信息
基于Jenkins和k8s构建企业级DevOps容器云平台相关推荐
- 企业级DevOps容器云平台流水线综合解决方案详解(一)
一.Jenkins Pipeline 语法 1.Jenkins Pipeline 简介 Jenkins pipeline (流水线)是一套运行于 jenkins 上的工作流框架,将原本独立运行于单个或 ...
- 【DevOps实战|基于Jenkins与Gitlab构建企业级持续集成环境系统】(Jenkins+Gitlab+Keepalived+Haproxy+Sonarqube+Http+灰度自动部署)
目录 一.DevOps简介 二.CI/CD简介 1.代码部
- UCloud叶理灯:内外部容器云平台构建的思考!
一年一度的用户大会,UCloud再次携"中立"而来, 会上一口气发布的诸多产业互联网产品再次印证了其在技术创新方面始终很坚持.尤其是USQL数据湖分析工具.StepFlow工作流服 ...
- 基于K8S构建企业级Jenkins CI/CD平台实战(三) 之 带你实战Spring boot/Cloud 项目 CI/CD jenkins自动化构建、部署过程
需要环境 Git(GitLab) Harbor 私服 kubernetes-plugin 使用 Kubernetes jenkins 通过前面三篇我们已经了解了jenkins和 kubernetes- ...
- 基于Docker和Kubernetes的企业级DevOps实践训练营
基于Docker和Kubernetes的企业级DevOps实践训练营 课程准备 离线镜像包 百度:https://pan.baidu.com/s/1N1AYGCYftYGn6L0QPMWIMw 提取码 ...
- 东方国信基于kubernetes构建容器云平台的实践和思考
本次,我分享的主题是<东方国信基于Kubernetes构建容器云平台的实践和思考>. 先讲一下背景,国信之前的软件部署方式是找台机器,把war包或者jar包往机器上一扔,启动就可以了,所有 ...
- 浅谈基于 OpenStack 和 k8s 轻量研发私有云建设
文章目录 一.背景 二.面临的挑战 三.功能简介 1.核心优势 2.核心设施平台(IaaS云) 3.基础服务平台(PaaS云) 四.技术落地 1.整体架构 2.技术选型 2.1.IaaS云技术 2.2 ...
- 基于DotNet构件技术的企业级敏捷软件开发平台 - AgileEAS.NET - 文章汇总及学习指南...
一.AgileEAS.NET平台简介 AgileEAS.NET平台是一套应用系统快速开发平台,用于帮助中小软件开发商快速构建自己的企业信息管理类开发团队,以达到节省开发成本.缩短开发时间,快速适应市场 ...
- 《Docker——容器与容器云》:第五章 构建自己的容器云
我们在第1章介绍了一个云计算平台应有的层次结构,其中平台即服务层(PaaS)是本书重点着墨描述的.尽管在一些经典PaaS平台中,容器技术已经扮演了一个至关重要的角色,但很遗憾,大部分经典PaaS平台中 ...
最新文章
- SVN从win迁移到Linux上
- mfc 监控文件操作_实战经验:使用CFileDialog实现多个文件选择
- linux下raid5的配置
- echart 地图 某个地区_中国饮食地图来袭!你爱的口味暗藏健康隐患吗?
- 这就是数据分析之数据分析入门
- 白盒测试方法_软件测试的种类:白盒测试和黑盒测试
- linux rsync 目录同步,Linux rsync网站目录同步功能的实现
- poj1324Holedox Moving搜索
- [转] WPF TextBox控件中文字实现垂直居中
- web操作日志丢失_日志异步落库,你了解不
- Two sum (bilibili有讲解视频)
- Web项目测试流程总结
- python 水晶报表_VS2010中水晶报表应用及实例
- 二进制转化成ascll_如何将二进制文件转换为ASCII
- [cesium] | 城市警情模拟
- 弘辽科技:扶持100个新品牌销量过亿投资人在抖音看到哪些机会?
- 该结束这忙忙碌碌却又碌碌无为的生活了
- POJ 2579 Blurred Vision G++
- 用python pynput 监听键盘输入
- DevOps到底是什么?