前言

关于 DevOps 是一个很大的话题,它可能既涉及到公司的技术文化构建,也包括开发者技术能力的支持,这次技术干货分享主要是侧重于技术方面,就是如何用 Kubernetes 来服务好 DevOps 的流水线。本文从 4 个方面介绍:

  1. 什么是 Kubernetes?为什么 Kubernetes 比较适合用来构建 DevOps 的流水线?

  2. 如何基于 Kubernetes 来构建 DevOps 流水线?

  3. 如何在 Azure 上面利用 AKS 去构建 DevOps 流水线?

  4. DevOps 中常见的一些挑战。

1. 什么是 Kubernetes?为什么 Kubernetes 比较适合用来构建 DevOps 的流水线?

Kubernetes 是目前最为广泛且流行的容器编排调度系统,它也是现在用来构建云原生应用编排的最佳平台。目前所有云原生应用基本上都会基于 Kubernetes  API 去构建。

Kubernetes 给开发者带来了很多实用的特性,比如一致性、可扩展性、自我修复的功能。一致性是指在 Kubernetes 上构建的应用可以无缝的迁移到任何环境里,不论公有云、私有云还是跨云。可扩展性是指把 Kubernetes 的插件机制运用到任何环境里,通过 Kubernetes 这些插件都可以实现自定义化。Kubernetes 的自我修复功能,包括健康检查、故障的自动恢复、自动扩展等机制,这些对于系统运行至关重要。

Kubernetes 的架构比较简单,分为 Master 和 Node 两部分。

  • Master 主要负责集群的状态维护,也给集群提供一个对外访问的入口;

  • Node 负责运行容器,为容器提供一些必要的环境,比如存储、网络等。

Kubernetes 在 Master 上必备的组件只有四个,在 Node 上必备的组件,除了 Kubelet、Kube-proxy,还有 Docker 等。而其他所有的一切都是通过扩展的方式部署到集群里,比如在部署一个集群时,DNS 是一个必需的功能,但这个功能是以一个容器的方式部署到集群里。

由于 Kubernetes 架构非常简单。因此它有一些特别的好处,就是可以运用到 DevOps 流水线里面来。以持续集成为例,在版本升级测试新的特性时,在 Kubernetes 之前可能要通过 IPM 包管理这些软件,当升级 IPM 包时,有可能产生冲突。而在 Kubernetes 中,通过把 IPM 包放到每一个容器里,避免软件包的冲突问题。如果把每个应用程序所依赖的东西都放到了容器里面,应用程序在不同环境里就可以很容易保持一致。

在 DevOps 里监控系统很关键,而在 Kubernetes 中,通过一个 Pod 的方式运行容器,应用程序可以部署在 Pod 的一个容器里,其他的容器可以用在监控里。

在 DevOps 中经常需要频繁地发布、变更系统,发现问题时需要回滚,而在频繁的发布和回滚时,需要有一个系统去管理这些发布的历史生命周期,在发现问题时才可以回滚回来。对于系统来说,要求它发布的过程中不能影响应用程序对外正常访问。在 Kubernetes 中已经有了原生的机制,比如用 Service 和 Deployment 来完成这个功能,Service 可以提供一个对外访问的入口,自动做好负载均衡;Deployment 负责管理好这些副本。如果需要升级,通过滚动升级的方式去部署。

2. 基于 Kubernetes 的 DevOps

DevOps 是把人员流程、产品进行结合,给用户提供持续价格的一个过程,这个过程既涉及到人员、过程,也涉及到产品。DevOps 最终目的是给客户提供持续交付的价值,流程包括:产品的规划跟踪、软件开发、构建测试、产品部署、运维、监控和优化,并通过一个流水线的方式串联起来。因此通常把 DevOps 这些流程合并起来称为一个 DevOps 的流水线。这个流水线的核心目标,就是持续给用户交付有价值的产品。

Kubernetes 如何服务好 DevOps 流水线?Kubernetes 的好处就是可以把不同的产品、工具串联起来。以 CI/CD 里最常用的 Jenkins 为例:现在有一个 Jenkins-x 项目,实现了与 Kubernetes 的集成,利用 Kubernetes 的 CI/CD 实现了自定义的兑现,有了这些资源兑现,就可以通过 Kubernetes 的 API 来定义 CI/CD 的过程。

另外如果使用 Kubernetes 构建整个流水线,在监控的时候就可以同样选择 Kubernetes 生态之中的项目,比如可以直接从 Prometheus 里获得很多指标,去构建想要的监控告警,以及后续的对整个产品的优化依据。基于这些工具,就可以构建一个 DevOps 的流水线。

一个比较典型的 DevOps 的流水线过程是:项目开始开发时,用 VS  Code 开发代码,然后把代码推送到 GitLab 里存储,通过 GitLab 的 hook 使 Jenkins 执行一些 CI 的过程,比如做一些单元测试,构建 Docker  image,再把这个 Docker  image 调用 helm 部署到开发环境或测试环境中。在测试环境里通过 Jenkins 触发一个集成测试的功能,完成后就可以把它部署到生产环境里,通过 Kubernetes addon 的方式,把 Prometheus、Grafana 等监控组件部署到集群里,就实现了一整套从 CI 到 CD 的监控过程。

3. 基于 AKS 的 Devops

AKS 是 Azure 提供的一个托管的 Kubernetes 服务,因为很多人在接触 Kubernetes 时发现它最大的痛点是 Kubernetes 的安装部署和维护太麻烦。Kubernetes 发布特别快,在升级的过程中很容易出现各种问题,而 AKS 的出现可以解决这些问题。

需要注意的是,AKS 只是提供了一个托管的 Kubernetes 服务,也就是它只提供了一个 K8s 的集群,而为了运行这个集群,还需要其他东西,比如要考虑 Docker  image 要存在哪里的问题。ACI 提供了跨地域自动复制的功能,因此 Docker  image 只要存到 ACI 里,就可以在不同的 Image 里使用。

另外在 DevOps 的流水线里执行任务时,这些任务都类似 Kubernetes 的一个 Job,比如在持续集成里做一个单元测试,这个单元测试可能运行很短时间就结束了,但如果用 AKS,或者通过其他产品的 Kubernetes 集群来管理这套 DevOps 流程,要优先保证最大的 Job 数量时,它才能够正常的运行。但是这会造成一定的资源浪费。

ACI 是一种无服务器化的容器解决方案,用户无需管理底层服务器,只需要调用它的 API 把一个容器运行起来即可。另外如果运行的程序还有一些数据要存储,如果要访问数据库,就需要用 cosmosDB 等服务,而它们已经跟 AKS、Kubernetes 有了很好的集成,这些服务可以很方便地在 Azure 上使用。

如何构建一套比较完善的 DevOps 流水线呢?

首先要创建项目,选择最合适的产品来管理进度,用 Azure  DevOps 把产品后面的代码开发、单元测试和集成测试、持续部署等串联起来。Azure  DevOps 提供了 Backlog 等工具来管理应用程序。

开发项目时,需要一套 Git 存储仓库,Azure  DevOps 也提供了这个功能。而项目开发完成之后,需要的本地测试可以使用 Draft,它的好处就是可以把进项打包,再通过 Helm 部署到开发环境里,并且可以自动设置好应用程序的远程调试。也就是让应用程序以容器的方式运行在一个 Kubernetes 的环境中,但是可以通过 VS Code 在线调试程序。

如果应用程序在本地测试通过了,就需要推送到代码仓库里持续集成,然后需要部署到测试环境里做相应的测试,最终再把它部署到生产环境里。当这一切做完了以后,应用程序就已经在线上跑了,但这个时候 DevOps 流程并没有结束,因为还需要运维和监控这个应用程序。这个时候就可以 Azure monitor 监控这个程序的状态。

4. DevOps 的挑战

DevOps 的挑战,首先就是自动化的测试不足。DevOps 流水线由于测试的投入不足,新发布的功能没有测试到,这个时候发布到生产环境就容易出现各种各样的问题。比如应用程序部署之后,可用性降低了,资源使用率突然升的很高等。对于这个问题实际上可以通过一定的组织文化建设去解决。一个比较简便的方式就是对这些过程提供适当的测试覆盖率的要求。例如一个新的产品发布时,要求测试覆盖率不能降低了,但是测试覆盖率是比较难以控制的,可能要从组织文化上来解决。

第二个问题就是DevOps 的工具链缺少链接,没有链接就没有办法做到高度的自动化。比较推荐的做法是选用 Kubernetes 生态中的这些工具链,利用 Kubernetes  API 把应用程序更好地串联起来,形成完整的 DevOps 的流水线。

第三个问题就是很难量化成果,以及很难协调团队之间的合作。比如用户抱怨网站访问速度慢了,由于当下并不知道慢的问题在哪里,所以要到各个产品里去检查。如果没有一套完善的监控系统,就很难定位这个产品到底是该由谁去负责。针对这个问题可以使用 Kubernetes,在不改变应用程序的情况下,跟踪整个应用程序的调用链,比如可以使用 ServiceMesh 监控这些应用程序,这样可以减少发现问题之后没法具体定位产品的瓶颈。

最后一个问题就是在 DevOps 之中,虽然使用了 Kubernetes 的生态链工具,如果没有遵循一些 Kubernetes/DevOps 的最佳实践,会导致在实际操作中出现预想不到的问题。比如一个最简单的问题,在升级的过程中可以用 Kubernetes 的 Deployment 来做滚动更新。按照正常的预期,在滚动更新的过程中,原来的副本还在正常运行着,新副本也是逐步去创建着,Service 负载均衡也是正常运行的。但问题是,Service 每次升级时总会时不时的断一下,其可能用性在每次部署时,总会降低那么一点。产生这个问题就是因为没有遵循 Kubernetes 最基本的最佳实践,没有给应用程序部署健康检查。对于最佳实践的问题,实际上需要整个团队,不只是 DevOps 流水线的构建团队,还需要应用程序的团队共同把这些最佳实践运用到流水线和应用程序的管理中。比如会出现 Job 的失败率非常高的问题,这时不仅要对应用程序进行资源的限制,另外对 DevOps 流水线里面的这些 Job 也要进行一定的资源控制,不要把资源全部耗光。

经验之谈

在 Kubernetes 中,不建议大家直接去管理一个 Pod,你之前创建了一个 Pod,而没有使用控制器去管理它。在 Kubernetes 中,建议每一个 Pod 都有一个控制器来管理,比如你可以用 Deployment 来管理,或者使用副本控制器来管理。所有这些控制器都是用来保证 Pod 在预期的状态。也可以使用自己的控制器去管理这些 Pod,通过开发一个 API 去管理生命周期。这样容器最终在运行状态时,总是有一个控制器来管理,就不会出现一个容器在一直在运行,却不知道是谁在管理的问题。


嘉宾简介

倪朋飞,就职于微软 Azure,主要关注 Kubernetes 与微服务,同时也是 Kubernetes 开源社区 SIG Azure Tech Lead。作为 Kubernetes 项目维护者,同时负责维护开源书籍《Kubernetes 指南》。

原文地址:https://www.infoq.cn/article/LtsomODk*whKEevGUhUp


.NET社区新闻,深度好文,欢迎访问公众号文章汇总 http://www.csharpkit.com

如何基于 Kubernetes 构建完整的 DevOps 流水线相关推荐

  1. 如何基于Kubernetes构建完整的DevOps流水线

    前言 关于DevOps是一个很大的话题,它可能既涉及到公司的技术文化构建,也包括开发者技术能力的支持,这次技术干货分享主要是侧重于技术方面,就是如何用Kubernetes来服务好DevOps的流水线. ...

  2. 基于Kubernetes 构建.NET Core技术中台

    今天下午在腾讯云+社区社区分享了<基于Kubernetes 构建.NET Core技术中台>,下面是演讲内容的文字实录. 我们为什么需要中台 我们现在处于企业信息化的新时代.为什么这样说呢 ...

  3. 东方国信基于kubernetes构建容器云平台的实践和思考

    本次,我分享的主题是<东方国信基于Kubernetes构建容器云平台的实践和思考>. 先讲一下背景,国信之前的软件部署方式是找台机器,把war包或者jar包往机器上一扔,启动就可以了,所有 ...

  4. 基于Kubernetes构建Docker集群管理详解

    from: 基于Kubernetes构建Docker集群管理详解 Kubernetes是Google开源的容器集群管理系统,基于Docker构建一个容器的调度服务,提供资源调度.均衡容灾.服务注册.动 ...

  5. 使用spring boot+kubernetes构建完整微服务平台

    微服务架构被认为是构建大型复杂系统的最佳理论指导,其采用了分而治之.单一职责.关注点分离等方法论来设计系统架构.微服务的实现方式和思路有很多种,本文简述基于kubernetes的微服务平台建设思路及技 ...

  6. 基于Kubernetes 构建.NET Core 的技术体系

    很多公司技术支持岗位的工作,如配置域名,部署环境,修改复位配置,服务重启,扩容缩容,梳理和完善监控,根据开发的需要查找日志等工作,需要和开发进行大量的沟通,如什么是外网域名,什么是内网域名.A nam ...

  7. 基于 Kubernetes 构建多集群的流水线

    基于Kubefed的多集群管理实践 多集群场景 主要分以下几个方面: 1)高可用低延时:应用部署到不同的集群去做高可用 2)容灾备份:特别是针对于数据库这类的应用 在a集群对外提供服务的同时给b集群做 ...

  8. 基于Kubernetes构建现代大数据管道

    \ 看新闻很累?看技术新闻更累?试试下载InfoQ手机客户端,每天上下班路上听新闻,有趣还有料! \ \\ 容器技术(如Kubernetes)为现代数据管道的实现带来了可能性.来自lguazio的大数 ...

  9. 基于Kubernetes构建企业容器云

    前言 团队成员有DBA.运维.Python开发,由于需要跨部门向公司私有云团队申请虚拟机, 此时我在思考能否在现有已申请的虚拟机之上,再进行更加细粒度的资源隔离和划分,让本团队的成员使用, 也就是在私 ...

最新文章

  1. ABAP ALV 颜色设置(行,列,单元格)
  2. CONVERT_DATE_INPUT
  3. java怎么表示10 2_java -Xmx1G是否表示10 ^ 9或2 ^ 30字节?
  4. 牛客 - 弦(卡特兰数)
  5. chrome切换前端模式_H5暗黑模式在京东收银台中的实践
  6. node升级命令_Vue CLI 4 发布:自动化升级过程,支持自定义包管理器
  7. IDEA设置Maven组合命令一键编译打包发布
  8. Linux运维之路怎么走?
  9. 机械硬盘提示:使用驱动器中的光盘之前需要将其格式化怎么办?
  10. 美团成都一面面经及详细答案
  11. HTML CSS大学生期末网页大作业 DW个人网页设计 人物介绍 历史人物岳飞介绍
  12. 从冯诺伊曼结构看AI 1
  13. php seekdir,perl 模式匹配总结和shell命令调用方法 (zz)
  14. SOMv3.3.3二次开发中LUA脚本对机基础操作指南
  15. 张孝祥正在整理Java就业面试题大全20100602版本(一)
  16. 使程序在Linux下后台运行
  17. Study - Material Design 浅析
  18. windows安装JDK8教程
  19. 紫金军团终得胜 神奇科比傲联盟
  20. 联想服务器bios查看网卡信息,深度教你联想电脑设置BIOS启用或禁用网卡的方法...

热门文章

  1. getComputedStyle方法的那些事
  2. java.lang.NoSuchFieldError: EMPTY_ORDERED_ITERATOR起因及解决办法
  3. git 使用详解-- tag打标签
  4. Linux命令之tar等
  5. Resin的安全性ip限制
  6. 使用Dynamic LINQ创建高级查询服务
  7. 开源软件通识基础:第二周课程回顾与总结
  8. 刘敏:优麒麟开源操作系统运营实践 | DEV. Together 2021 中国开发者生态峰会
  9. WPF 用装饰器制作抽屉效果
  10. 阿里开始招聘.NET,要求WPF!