Kubernetes 集群部署 NFS-Subdir-External-Provisioner 存储插件
文章目录
- 一、搭建 NFS 服务器
- 1、背景介绍
- 2、配置要求
- 3、配置NFS服务器
- 3.1、配置环境
- 3.2、安装nfs-utils和rpcbind
- 3.3、创建存储的文件夹
- 3.4、配置NFS
- 3.5、设置开机启动并启动
- 3.6、查看是否有可用的NFS地址
- 4、客户端配置
- 4.1、安装nfs-utils和rpcbind
- 4.2、创建挂载的文件夹
- 4.3、挂载nfs
- 5、写入一个测试文件
- 二、部署 NFS-Subdir-External-Provisioner 提供动态分配卷
- 1、NFS-Subdir-External-Provisioner 简介
- 2、创建 NFS 服务端
- 3、部署 NFS Provisioner
- 3.1、创建 ServiceAccount
- 3.2、部署 NFS-Subdir-External-Provisioner
- 3.3、创建 NFS SotageClass
- 3.4、创建 PVC 和 Pod 进行测试
- 3.4.1、创建测试 PVC
- 3.4.2、创建测试 Pod 并绑定 PVC
- 4、进入 NFS 服务器验证是否创建对应文件
一、搭建 NFS 服务器
1、背景介绍
Kubernetes 对 Pod 进行调度时,以当时集群中各节点的可用资源作为主要依据,自动选择某一个可用的节点,并将 Pod 分配到该节点上。在这种情况下,Pod 中容器数据的持久化如果存储在所在节点的磁盘上,就会产生不可预知的问题,例如,当 Pod 出现故障,Kubernetes 重新调度之后,Pod 所在的新节点上,并不存在上一次 Pod 运行时所在节点上的数据。
为了使 Pod 在任何节点上都能够使用同一份持久化存储数据,我们需要使用网络存储的解决方案为 Pod 提供数据卷。常用的网络存储方案有:NFS/cephfs/glusterfs。
本文介绍一种使用 centos 搭建 nfs 服务器的方法。此方法仅用于测试目的,请根据您生产环境的实际情况,选择合适的 NFS 服务。
2、配置要求
本文以手动模式部署一个开发测试用集群为例,如果使用通过 Rook 支持 Ceph 存储方案,则不需要准备存储主机。每个主机的用途和需求是:
3、配置NFS服务器
3.1、配置环境
本文中所有命令都以 root 身份执行
关闭防火墙服务
# 停止并禁用防火墙
systemctl stop firewalld
systemctl disable firewalld
关闭并禁用SELinux
setenforce 0
sed -i 's/^SELINUX=enforcing$/SELINUX=disabled/' /etc/selinux/config
3.2、安装nfs-utils和rpcbind
yum install -y nfs-utils rpcbind
3.3、创建存储的文件夹
# 创建文件夹
mkdir /nfs
# 更改归属组与用户
chown -R nfsnobody:nfsnobody /nfs
3.4、配置NFS
执行命令vim /etc/exports
,创建 exports 文件,文件内容如下:
# 编辑exports
vi /etc/exports
# 输入以下内容(格式:FS共享的目录 NFS客户端地址1(参数1,参数2,...) 客户端地址2(参数1,参数2,...))
/nfs 172.16.106.215/24(rw,async,no_root_squash)
如果设置为 /nfs *(rw,async,no_root_squash)
则对所以的IP都有效
- 常用选项:
- ro:客户端挂载后,其权限为只读,默认选项;
- rw:读写权限;
- sync:同时将数据写入到内存与硬盘中;
- async:异步,优先将数据保存到内存,然后再写入硬盘;
- Secure:要求请求源的端口小于1024
- 用户映射:
- root_squash:当NFS客户端使用root用户访问时,映射到NFS服务器的匿名用户;
- no_root_squash:当NFS客户端使用root用户访问时,映射到NFS服务器的root用户;
- all_squash:全部用户都映射为服务器端的匿名用户;
- anonuid=UID:将客户端登录用户映射为此处指定的用户uid;
- anongid=GID:将客户端登录用户映射为此处指定的用户gi
3.5、设置开机启动并启动
执行以下命令,启动 nfs 服务:
rpcbind:
systemctl restart rpcbind
nfs:
systemctl enable nfs && systemctl restart nfs
3.6、查看是否有可用的NFS地址
检查配置是否生效:
showmount -e 127.0.0.1
4、客户端配置
- 本章节中所有命令都以 root 身份执行
- 服务器端防火墙开放111、662、875、892、2049的 tcp / udp 允许,否则远端客户无法连接。
4.1、安装nfs-utils和rpcbind
执行以下命令安装 nfs 客户端所需的软件包
yum install -y nfs-utils rpcbind
4.2、创建挂载的文件夹
mkdir -p /nfs-data
4.3、挂载nfs
执行以下命令挂载 nfs 服务器上的共享目录到本机路径/nfs-data
mount -t nfs -o nolock,vers=4 172.16.106.205:/nfs /nfs-data
- 参数解释:
- mount:挂载命令
- o:挂载选项
- nfs :使用的协议
- nolock :不阻塞
- vers : 使用的NFS版本号
- IP : NFS服务器的IP(NFS服务器运行在哪个系统上,就是哪个系统的IP)
- /nfs: 要挂载的目录(Ubuntu的目录)
- /nfs-data : 要挂载到的目录(开发板上的目录,注意挂载成功后,/mnt下原有数据将会被隐藏,无法找到)
查看挂载:
df -h
卸载挂载:
umount /nfs-data
检查 nfs 服务器端是否有设置共享目录
# showmount -e $(nfs服务器的IP)
showmount -e 172.16.106.205# 输出结果如下所示
Export list for 172.16.106.205:
/nfs *
查看nfs版本
# 查看nfs服务端信息(服务端执行)
nfsstat -s# 查看nfs客户端信息(客户端执行)
nfsstat -c
5、写入一个测试文件
echo "hello nfs server" > /nfs-data/test.txt
在 nfs 服务器上执行以下命令,验证文件写入成功:
cat /nfs/test.txt
二、部署 NFS-Subdir-External-Provisioner 提供动态分配卷
1、NFS-Subdir-External-Provisioner 简介
NFS-Subdir-External-Provisioner
是一个自动配置卷程序,它使用现有的和已配置的 NFS 服务器来支持通过持久卷声明动态配置 Kubernetes 持久卷。
持久卷被配置为:${namespace}-${pvcName}-${pvName}
。
此组件是对 nfs-client-provisioner 的扩展,nfs-client-provisioner 已经不提供更新,且 nfs-client-provisioner 的 Github 仓库已经迁移到 NFS-Subdir-External-Provisioner 的仓库。
GitHub 地址:https://github.com/kubernetes-sigs/nfs-subdir-external-provisioner
2、创建 NFS 服务端
本文是具体介绍如何部署 NFS 动态卷分配应用 “NFS-Subdir-External-Provisioner”,所以部署前请确认已经存在 NFS 服务端,,如果非 Centos 系统,请先自行查找 NFS Server 安装方法。
这里 NFS 服务端环境为:
- IP地址:172.16.106.205
- 存储目录:/nfs/data
- 存储目录:/nfs/helm_data
3、部署 NFS Provisioner
3.1、创建 ServiceAccount
现在的 Kubernetes 集群大部分是基于 RBAC 的权限控制,所以创建一个一定权限的 ServiceAccount 与后面要创建的 “NFS Provisioner” 绑定,赋予一定的权限。
apiVersion: v1
kind: ServiceAccount
metadata:name: nfs-client-provisionernamespace: default # 替换成你要部署的 Namespace
---
kind: ClusterRole
apiVersion: rbac.authorization.k8s.io/v1
metadata:name: nfs-client-provisioner-runner
rules:- apiGroups: [""]resources: ["persistentvolumes"]verbs: ["get", "list", "watch", "create", "delete"]- apiGroups: [""]resources: ["persistentvolumeclaims"]verbs: ["get", "list", "watch", "update"]- apiGroups: ["storage.k8s.io"]resources: ["storageclasses"]verbs: ["get", "list", "watch"]- apiGroups: [""]resources: ["events"]verbs: ["create", "update", "patch"]
---
kind: ClusterRoleBinding
apiVersion: rbac.authorization.k8s.io/v1
metadata:name: run-nfs-client-provisioner
subjects:- kind: ServiceAccountname: nfs-client-provisionernamespace: default
roleRef:kind: ClusterRolename: nfs-client-provisioner-runnerapiGroup: rbac.authorization.k8s.io
---
kind: Role
apiVersion: rbac.authorization.k8s.io/v1
metadata:name: leader-locking-nfs-client-provisionernamespace: default
rules:- apiGroups: [""]resources: ["endpoints"]verbs: ["get", "list", "watch", "create", "update", "patch"]
---
kind: RoleBinding
apiVersion: rbac.authorization.k8s.io/v1
metadata:name: leader-locking-nfs-client-provisionernamespace: default
subjects:- kind: ServiceAccountname: nfs-client-provisionernamespace: default
roleRef:kind: Rolename: leader-locking-nfs-client-provisionerapiGroup: rbac.authorization.k8s.io
创建 RBAC:
kubectl apply -f nfs-rbac.yaml
3.2、部署 NFS-Subdir-External-Provisioner
创建 NFS Provisioner 部署文件,这里将其部署到 “default” Namespace 中。
nfs-provisioner-deploy.yaml
:
apiVersion: apps/v1
kind: Deployment
metadata:name: nfs-client-provisionerlabels:app: nfs-client-provisioner
spec:replicas: 1strategy:type: Recreate ## 设置升级策略为删除再创建(默认为滚动更新)selector:matchLabels:app: nfs-client-provisionertemplate:metadata:labels:app: nfs-client-provisionerspec:serviceAccountName: nfs-client-provisionercontainers:- name: nfs-client-provisioner#image: gcr.io/k8s-staging-sig-storage/nfs-subdir-external-provisioner:v4.0.0image: registry.cn-beijing.aliyuncs.com/xngczl/nfs-subdir-external-provisione:v4.0.0volumeMounts:- name: nfs-client-rootmountPath: /persistentvolumesenv:- name: PROVISIONER_NAME ## Provisioner的名称,以后设置的storageclass要和这个保持一致value: nfs-client- name: NFS_SERVER ## NFS服务器地址,需和valumes参数中配置的保持一致value: 172.16.106.205- name: NFS_PATH ## NFS服务器数据存储目录,需和valumes参数中配置的保持一致value: /nfs/datavolumes:- name: nfs-client-rootnfs:server: 172.16.106.205 ## NFS服务器地址path: /nfs/data ## NFS服务器数据存储目录
创建 NFS Provisioner:
# -n: 指定应用部署的 Namespace
kubectl apply -f nfs-provisioner-deploy.yaml
3.3、创建 NFS SotageClass
创建一个 StoageClass,声明 NFS 动态卷提供者名称为 “nfs-storage”。
nfs-storage.yaml:
apiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:name: nfs-storageannotations:storageclass.kubernetes.io/is-default-class: "false" ## 是否设置为默认的storageclass
provisioner: nfs-client ## 动态卷分配者名称,必须和上面创建的"provisioner"变量中设置的Name一致
parameters:archiveOnDelete: "true" ## 设置为"false"时删除PVC不会保留数据,"true"则保留数据
mountOptions:- hard ## 指定为硬挂载方式- nfsvers=4 ## 指定NFS版本,这个需要根据NFS Server版本号设置
创建 StorageClass:
kubectl apply -f nfs-storage.yaml
3.4、创建 PVC 和 Pod 进行测试
3.4.1、创建测试 PVC
在 Namespace 下创建一个测试用的 PVC 并观察是否自动创建是 PV 与其绑定。
test-pvc.yaml
:
kind: PersistentVolumeClaim
apiVersion: v1
metadata:name: test-pvc
spec:storageClassName: nfs-storage #---需要与上面创建的storageclass的名称一致accessModes:- ReadWriteOnceresources:requests:storage: 1Mi
创建 PVC:
kubectl apply -f test-pvc.yaml
查看 PVC 状态是否与 PV 绑定
利用 Kubectl 命令获取 pvc 资源,查看 STATUS 状态是否为 “Bound”。
$ kubectl get pvc test-pvc
NAME STATUS VOLUME CAPACITY ACCESS MODES STORAGECLASS AGE
test-pvc Bound pvc-105a5f32-e4dd-4b1d-943b-c4f2ca498f60 1Mi RWO nfs-storage-new 45m
3.4.2、创建测试 Pod 并绑定 PVC
创建一个测试用的 Pod,指定存储为上面创建的 PVC,然后创建一个文件在挂载的 PVC 目录中,然后进入 NFS 服务器下查看该文件是否存入其中。
test-pod.yaml
:
kind: Pod
apiVersion: v1
metadata:name: test-pod
spec:containers:- name: test-podimage: busybox:latestcommand:- "/bin/sh"args:- "-c"- "touch /mnt/SUCCESS && exit 0 || exit 1" #创建一个名称为"SUCCESS"的文件volumeMounts:- name: nfs-pvcmountPath: "/mnt"restartPolicy: "Never"volumes:- name: nfs-pvcpersistentVolumeClaim:claimName: test-pvc
创建 Pod:
# -n:指定创建 Pod 的 Namespace
kubectl apply -f test-pod.yaml
4、进入 NFS 服务器验证是否创建对应文件
进入 NFS 服务器的 NFS 挂载目录,查看是否存在 Pod 中创建的文件:
[root@nfs ~]# cd /nfs/data/
[root@nfs data]# ll
总用量 4
drwxrwxrwx 2 root root 4096 10月 17 12:29 default-test-pvc-pvc-e85690ac-311f-46fa-af88-9501e35f8582
[root@nfs data]# cd default-test-pvc-pvc-e85690ac-311f-46fa-af88-9501e35f8582/
[root@nfs default-test-pvc-pvc-e85690ac-311f-46fa-af88-9501e35f8582]# ll
总用量 0
-rw-r--r-- 1 root root 0 10月 17 12:29 SUCCESS
[root@nfs default-test-pvc-pvc-e85690ac-311f-46fa-af88-9501e35f8582]#
可以看到已经生成 SUCCESS 该文件,并且可知通过 NFS Provisioner 创建的目录命名方式为“namespace名称-pvc名称-pv名称”
,pv 名称是随机字符串,所以每次只要不删除 PVC,那么 Kubernetes 中的与存储绑定将不会丢失,要是删除 PVC 也就意味着删除了绑定的文件夹,下次就算重新创建相同名称的 PVC,生成的文件夹名称也不会一致,因为 PV 名是随机生成的字符串,而文件夹命名又跟 PV 有关,所以删除 PVC 需谨慎。
示例源码:
- https://github.com/zuozewei/blog-example/tree/master/Kubernetes/k8s-nfs-subdir-external-provisioner
Kubernetes 集群部署 NFS-Subdir-External-Provisioner 存储插件相关推荐
- k8s 动态NFS Subdir External Provisioner
目录 1.部署NFS 2.部署 NFS Subdir External Provisioner 已适配k8s-1.23.9集群(docker运行时) 1.部署NFS nfs 服务端(k8s-maste ...
- ASP.NET Core应用程序容器化、持续集成与Kubernetes集群部署(二)
在上文中我介绍了ASP.NET Core应用程序容器化时需要注意的几个问题,并给出了一个案例应用程序:tasklist.今天接着上文的内容,继续了解一下如何使用Azure DevOps进行ASP.NE ...
- Kubernetes集群部署实录
空降助手 环境准备 服务器配置信息 部署版本信息 关闭防火墙 禁用SELinux 关闭swap 修改hostname 配置hosts文件 runtime安装(docker安装) 安装记录 kubead ...
- kubernetes 集群部署
kubernetes 集群部署 环境 JiaoJiao_Centos7-1(152.112) 192.168.152.112 JiaoJiao_Centos7-2(152.113) 192.168.1 ...
- ASP.NET Core应用程序容器化、持续集成与Kubernetes集群部署(三
在上文ASP.NET Core应用程序容器化.持续集成与Kubernetes集群部署(二)中,我介绍了如何使用Azure DevOps为ASP.NET Core应用程序案例:tasklist搭建持续集 ...
- 基于Kubernetes集群部署完整示例——Guestbook
本文依赖环境:Centos7部署Kubernetes集群.基于Kubernetes集群部署skyDNS服务 该示例中,我们将创建一个redis-master.两个redis-slave.三个front ...
- kubernetes集群部署(四):部署heapster+influxdb
在上一篇<kubernetes集群部署(三):部署dashboard服务>中,我们部署了dashboard,但这个dashboard页面看上去好像少了点什么,没有cup和内存使用监控图表. ...
- 自动化运维之k8s——Kubernetes集群部署、pod、service微服务、kubernetes网络通信
目录 一.Kubernetes简介 1.Kubernetes简介 2.kubernetes设计架构 3.Kubernetes核心组件 4.kubernetes设计结构 二.Kubernetes部署 1 ...
- 容器技术---(二)kubernetes集群部署
Kubernetes简介 在Docker作为高级容器引擎快速发展的同时,在Google内部,容器技术已经应用了很多年,Borg系统运行管理着成千上万的容器应用:Kubernetes项目来源于Borg, ...
最新文章
- 性能优化之使用LongAdder替换AtomicLong
- atitit.js javascript 调用c# java php后台语言api html5交互的原理与总结p97
- Mac下给sublime text3配置Nodejs
- MySQL timestamp的默认值怎么设置?
- Oracle 数据类型及存储方式(袁光东 原创)
- zmail邮件系统安装手册 V2.0版本
- 光子计算机玩游戏,用于光计算的光子计算机
- @configurationproperties注解的使用_徒手使用SpringBoot自定义Starter启动器
- [WebKit]浏览器的加载与页面性能优化
- parse Json
- Android 画笔功能
- 开源ERP---Openbravo
- LeetCode 1041. 困于环中的机器人(C++)
- 这些年我踩过的`Mybatis`代码生成的坑
- 下载其他版本jdk和下载32位jdk
- 推广海报你需要注意的几个小细节
- 基于正点原子触摸屏ui设计_基于黄金比例ui%C9%B8的设计系统
- php编程模块英文缩写_php的英文全称是什么
- 《GitHub入门与实践》读书笔记
- 巧用 CSS 把图片马赛克化
热门文章
- 企业实战, java、spingboot微信扫码支付,页面生成微信二维码,微信扫码付款,websocket通知,处理订单!复制粘贴代码直接开干
- Python:Pycharm如何使用scrapy框架做爬虫?
- ElementUI TimePicker固定时间范围,开始时间小于结束时间
- Hue 集成Hive
- 使用openssl将pfx格式证书转换成key和crt
- Eclipse+WIN7+CC2538移植开发Contiki
- leetcode:BFS/DFS--腐烂的橘子
- 一文搞定计算机网络面试题
- CCleanner下载安装教程
- 【原创】PHP扩展开发进阶