文章目录

一.Cgroup
- 1.概述
- 2.cgroup 作用
- 3.Cgroup资源控制的作用
- 4..cgroup中需要了解的四个概念
- 5.Cgroup 资源配置方法
二.使用stress工具测试CPU 和内存
- 1.设置CPU权重
- 2.cpu周期限制
- 3.CPU Core控制
- 4.CPU配额控制参数的混合使用

一.Cgroup

1.概述

Cgroups 是 control groups 的缩写，是 Linux 内核提供的一种可以限制、记录、隔离进程组（process groups）所使用的物理资源（如：cpu,memory,IO等等）的机制。最初由 google 的工程师提出，后来被整合进 Linux 内核。Cgroups 也是 LXC 为实现虚拟化所使用的资源管理手段，可以说没有cgroups就没有LXC。

Docker通过Cgroup来控制容器使用的资源配额，包括CPU、内存、磁盘三大方面，基本覆盖了常见的资源配额和使用量控制Cgroup是Control Groups的缩写，是Linux内核提供的一种可以限制、记录、隔离进程组所使用的物理资源（如CPU、内存、磁盘IO等等）的机制

2.cgroup 作用

(1)限制进程组可以使用的资源数量（Resource limiting ）。比如：memory子系统可以为进程组设定一个memory使用上限，一旦进程组使用的内存达到限额再申请内存，就会出发OOM（out of memory）。

(2)进程组的优先级控制（Prioritization ）。比如：可以使用cpu子系统为某个进程组分配特定cpu share。

(3)记录进程组使用的资源数量（Accounting ）。比如：可以使用cpuacct子系统记录某个进程组使用的cpu时间

(4)进程组隔离（Isolation）。比如：使用ns子系统可以使不同的进程组使用不同的namespace，以达到隔离的目的，不同的进程组有各自的进程、网络、文件系统挂载空间。

(5)进程组控制（Control）。比如：使用freezer子系统可以将进程组挂起和恢复。

3.Cgroup资源控制的作用

一般来说，容器默认是没有资源限制的，会最大程度使用宿主机的资源。在Linux主机上，如果内核检测到没有足够的内存来执行重要的系统功能，它会抛出一个OOME（Out Of Memory Exception），一旦发生OOME，Linux就会开始查杀进程以释放内存。任何进程都有可能会被杀死，包括docker daemon和其他重要的应用程序。如果错误的进程被杀死，这可会降低整个系统的使用效果。针对此情况，Docker提供了一种资源控制的方式，可以对容器的CPU、内存和IO进行限制。

4…cgroup中需要了解的四个概念

(1)Subsystems: 称之为子系统，一个子系统就是一个资源控制器，比如 cpu子系统就是控制cpu时间分配的一个控制器。(2)Hierarchies: 可以称之为层次体系也可以称之为继承体系，指的是Control Groups是按照层次体系的关系进行组织的。(3)Control Groups: 一组按照某种标准划分的进程。进程可以从一个Control Groups迁移到另外一个Control Groups中，同时Control        Groups中的进程也会受到这个组的资源限制。
(4)Tasks: 在cgroups中，Tasks就是系统的一个进程。

5.Cgroup 资源配置方法

被 LXC、docker 等很多项目用于实现进程资源控制。Cgroup 本身是提供将进程进行分组化管理的功能和接口的基础结构，I/O 或内存的分配控制等具体的资源管理是通过该功能来实现的。
这些具体的资源管理功能称为 Cgroup 子系统，有以下几大子系统实现：

blkio：设置限制每个块设备的输入输出控制。例如:磁盘，光盘以及 usb 等等。
CPU：使用调度程序为 cgroup 任务提供 CPU 的访问。
cpuacct：产生 cgroup 任务的 CPU 资源报告。
cpuset：如果是多核心的 CPU，这个子系统会为 cgroup 任务分配单独的 CPU 和内存。
devices：允许或拒绝 cgroup 任务对设备的访问。
freezer：暂停和恢复 cgroup 任务。
memory：设置每个 cgroup 的内存限制以及产生内存资源报告。
net_cls：标记每个网络包以供 cgroup 方便使用。ns：命名空间子系统。
perf_event：增加了对每个 group 的监测跟踪的能力，可以监测属于某个特定的 group 的所有线程以及运行在特定CPU上的线程。

二.使用stress工具测试CPU 和内存

使用Dockerfile来创建一个基于Centos的stress工具镜像

mkdir /opt/stress
vim /opt/stress/DockerfileFROM centos:7
MAINTAINER li
RUN yum install -y wget
RUN wget -O /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel-7.repo
RUN yum install -y stresscd /opt/stress/
docker build -t centos:stress

![](https://img-blog.csdnimg.cn/7ffa31c2b0024613a31fa7a73671294f.png?x-oss-process=image/watermark,type_ZHJvaWRzYW5zZmFsbGJhY2s,shadow_50,text_Q1NETiBA5bm05bCRNw==,size_20,color_FFFFFF,t_70,g_se,x_16)

1.设置CPU权重

使用如下命令创建容器，命令中的- -cpu-shares参数值不能保证可以获得1个vcpu或者多少GHz的CPU资源，它仅是一个弹性的加权值。

docker run -itd --cpu-shares 100 centos:stress

Cgroups只在容器分配的资源紧缺时，即在需要对容器使用的资源进行限制时，才会生效。因此，无法单纯根据某个容器的CPU份额来确定有多少CPU资源分配给它，资源分配结果取决于同时运行的其他容器的CPU分配和容器中进程运行情况。
可以通过cpu share可以设置容器使用CPU的优先级，比如启动了两个容器及运行查看CPU使用百分比。

//先创建两个容器
//容器产生10个子函数进程，设置cpu优先级为512
docker run -tid --name cpu512 --cpu-shares 512 centos:stress stress -c 10
//容器产生10个子函数进程，设置cpu优先级为1024
docker run -tid --name cpu1024 --cpu-shares 1024 centos:stress stress -c 10docker ps -a//进入容器使用top查看cpu使用情况
docker exec -it 68061cd212c9 bash
top
exit
//进容器使用top对比两个容器的%CPU，比例是1:2
docker exec -it 5b81d3426014 bash
top
exit

2.cpu周期限制

Docker提供了–cpu-period、–cpu-quota两个参数控制容器可以分配到的CPU时钟周期。

--cpu-period 是用来指定容器对CPU的使用要在多长时间内做一次重新分配--cpu-quota 是用来指定在这个周期内，最多可以有多少时间用来跑这个容器
与 --cpu-shares 不同的是,这种配置是指定一个绝对值，容器对 CPU 资源的使用绝对不会超过配置的值。
cpu-period 和 cpu-quota 的单位为微秒(us)。 cpu-period 的最小值为1000微秒，最大值为1秒(10^6 us)，默认值为 0.1 秒（100000 us)。
cpu-quota的值默认为-1，表示不做控制。
cpu-period和cpu-quota参数一般联合使用。

docker run -tid --cpu-period 100000 --cpu-quota 200000 centos:stress
docker exec -it 8847d6961493 bash
cat /sys/fs/cgroup/cpu/cpu.cfs_period_us
100000
cat /sys/fs/cgroup/cpu/cpu.cfs_quota_us
200000

3.CPU Core控制

对多核 CPU 的服务器，Docker 还可以控制容器运行使用哪些CPU内核，即使用- -cpuset-cpus 参数。

这对具有多CPU的服务器尤其有用，可以对需要高性能计算的容器进行性能最优的配置

docker run -tid --name cpu1 --cpuset-cpus 0-1 centos:stress

执行以上命令需要宿主机为双核，表示创建的容器只能用0、1两个内核。最终生成的cgroup的CPU内核配置如下;

docker exec -it fb2d24b040c1 bashcat /sys/fs/cgroup/cpuset/cpuset.cpus
0-1

若虚拟机不是四核，关闭虚拟机修改处理器的核数

adow_50,text_Q1NETiBA5bm05bCRNw==,size_20,color_FFFFFF,t_70,g_se,x_16)
通过下面指令可以看到容器中进程与 CPU 内核的绑定关系，达到绑定CPU内核的目的

//容器内部第一个进程号pid为1被绑定到指定CPU上运行
docker exec fb2d24b040c1 taskset -c -p 1

4.CPU配额控制参数的混合使用

通过cpuset-cpus参数指定容器A使用CPU内核0，容器B只是用CPU内核1。
在主机上只有这两个容器使用对应CPU内核的情况，它们各自占用全部的内核资源，cpu-shares没有明显效果。

cpuset-cpus、cpuset-mems参数只在多核、多内存节点上的服务器上有效，并且必须与实际的物理配置匹配，否则也无法达到资源控制的目的。
在系统具有多个CPU内核的情况下，需要通过cpuset-cpus 参数为设置容器CPU内核才能方便地进行测试

//测试前需要将宿主系统修改为4核心CPU
//创建两个容器,分别指定不同的cpu
docker run -tid --name cpu2 --cpuset-cpus 1 --cpu-shares 512 centos:stress stress -c 1
docker run -tid --name cpu3 --cpuset-cpus 3 --cpu-shares 1024 centos:stress stress -c 1top //记住按1查看每个核心的占用

Docker_Cgroup