使用etcd+confd管理nginx配置
1、前言
最近在项目中用nginx做反向代理,需要动态生成nginx的配置。大概流程是用户在页面上新增域名、http或https协议以及端口信息,后台会根据域名自动生成一个nginx的server配置,在nginx.conf配置文件中使用include将所有的server配置加载进来。遇到一个问题就是如何动态生成nginx的配置,以及配置更新。在此之前也接触过配置生成及更新,当时配置的格式都是基于xml的,使用protobuf与xml结合,先采用protobuf定义好配置的数据结构,然后将protobuf转换为xml配置文件。配置更新通过判断配置文件的md5是否发生变化进行。而如今接触的配置是nginx的配置,是一套自定义的配置。看了一眼nginx的配置源码,用一个void**** conf 来表示,顿时吓死宝宝了,膜拜作者编程技能。nginx配置代码内存组织是相当的牛逼,通用性非常强,有兴趣可以认真研究一下。我要自动生成的配置是如下所示:
upstream www_test {server 196.75.121.112:443; (动态生成)}server {listen 443 ssl; (动态生成)server_name www.test.com; (动态生成)ssl_protocols TLSv1 TLSv1.1 TLSv1.2;; ssl_certificate /home/build/openresty/nginx/cert/dealssl/www.bestenover.com.crt; (动态生成)location / { proxy_pass https://www_test; (动态生成) proxy_set_header Host $host;proxy_set_header X-Real-IP $remote_addr;proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;proxy_set_header X-Forwarded-Proto https;proxy_redirect off;} }
2、实现框架
看完nginx的配置不难发现,nginx是一个典型的key value类型的,而且与文件系统的非常类似,一个目录下面可以包含其他配置,目录下还可以有目录,嵌套多层。如今key value类型的数据库非常多,redis、leveldb等,最近新秀etcd也是key-value分布式数据库,提供类似文件系统操作,使用raft协议保持数据一致性,非常适合云计算分布式部署场景,将confd与etcd搭配,非常适合nginx这样的配置格式。
使用etcd新建与nginx配置对应的目录如下:
为了配合webui展示配置和后台生成nginx配置,总体的配置流程图如下所示:
3、生成配置
WEBUI通过API将配置写入mysql和etcd,confd注册监控etcd的key为/nginx/,只要发生变化就通知confd根据模板生成配置。confd默认的配置路径为/etc/confd/,创建conf.d和template两个目录,分别存放配置资源和配置模板。
nginx的配置资源如下所示:test.conf.toml
[template] src = "test.conf.tmpl"dest = "/tmp/test.conf"keys = [ "/nginx", ] check_cmd = "/usr/sbin/nginx -t -c ``.`src`"reload_cmd = "/usr/sbin/service nginx reload"
nginx的配置模板如下所示:test.conf.tmpl
upstream www_{{getv "/nginx/https/www/server/server_name"}} {{{range getvs "/nginx/https/www/upstream/*"}}server ``.``;`end` }server {server_name {{getv "/nginx/https/www/server/server_name"}}:443;ssl onssl_certificate {{getv "/nginx/https/www/server/ssl_certificate"}};ssl_certificate_key {{getv "/nginx/https/www/server/ssl_certificate_key"}};location / { proxy_pass http://www_{{getv "/nginx/https/www/server/server_name"}}; proxy_set_header Host $host;proxy_set_header X-Real-IP $remote_addr;proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;proxy_set_header X-Forwarded-Proto https;proxy_redirect off;} }
开启confd,执行 ./confd -watch -backend etcd -node http://127.0.0.1:2379
使用ectdctl添加配置如下:
./etcdctl set /nginx/https/www/server/server_name test.com ./etcdctl set /nginx/https/www/server/ssl_certificate /home/waf/build/openresty/nginx/cert/client/client.crt ./etcdctl set /nginx/https/www/server/ssl_certificate_key /home/waf/build/openresty/nginx/cert/client/client.key;/etcdctl set /nginx/https/www/upstream/server1 192.168.1.2:443./etcdctl set /nginx/https/www/upstream/server2 192.168.4.2:443
confd的执行结果如下所示:
生成位置文件如下所示:
upstream www_test.com {server 192.168.1.2:443;server 192.168.4.2:443; }server {server_name test.com:443;ssl onssl_certificate /home/waf/build/openresty/nginx/cert/client/client.crt;ssl_certificate_key /home/waf/build/openresty/nginx/cert/client/client.key;location / { proxy_pass http://www_test.com; proxy_set_header Host $host;proxy_set_header X-Real-IP $remote_addr;proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;proxy_set_header X-Forwarded-Proto https;proxy_redirect off;} }
与模板生成的保持一致。
4、参考资料
cond的github上文档介绍
https://github.com/kelseyhightower/confd/blob/master/docs/template-resources.md
etcd与confd实现配置管理
http://xiaorui.cc/2015/01/25/confd%E5%92%8Cetcd%E5%AE%9E%E7%8E%B0%E9%85%8D%E7%BD%AE%E7%AE%A1%E7%90%86%E5%8F%8A%E8%87%AA%E5%8A%A8%E5%8F%91%E7%8E%B0/
http://www.tuicool.com/articles/eeiAve
etcd的参考:
https://github.com/coreos/etcd
https://yq.aliyun.com/articles/11035
http://www.infoq.com/cn/articles/coreos-analyse-etcd/
本文转自 蔡小赵 51CTO博客,原文链接:http://blog.51cto.com/zhaopeiyan/1972873
使用etcd+confd管理nginx配置相关推荐
- 如何使用confd+ACM管理Nginx配置
Nginx 作为优秀的开源软件,凭借其高性能高并发等特点,常常作为web和反向代理服务部署在生产环境中.但是当 Nginx 的规模较大时, Nginx 的运维成本也是不断上升.本文介绍如何通过conf ...
- python修改nginx配置文件_zookeeper 动态管理nginx配置
假设我们有一个场景,所有服务器共享同一份配置文件,我们肯定不可能单独手动维护每台服务器,这时可以利用zookeeper的配置管理功能. 环境:python + nginx + zookeeper 目的 ...
- etcd nginx 容器_Etcd+Confd实现Nginx配置文件自动管理
一.需求 我们使用Nginx做七层负载均衡,后端是Tomcat.项目采用灰度发布方式,每次项目升级,都要手动先从Nginx下摘掉一组,然后再升级这组,当项目快速迭代时,手动做这些操作显然会增加部署时间 ...
- 通过Etcd+Confd自动管理Haproxy(多站点)
当网站业务量急剧增大的时候,机器的扩容缩容就是家常便饭,Haproxy作为负载均衡器的变更频率就急剧加大,特别是Docker的出现,这个时候再也不能通过vim修改配置文件的形式去对业务进行变更. et ...
- nginx配置一、二级域名、多域名对应(api接口、前端网站、后台管理网站)
前提:安装好nginx,如果已经启动nginx,先停止,命令: ./usr/local/nginx/sbin/nginx -s stop 修改nginx配置 vi /usr/local/nginx/c ...
- IM开源项目OpenIM部署文档-从准备工作到nginx配置
IM开源项目OpenIM部署文档-从准备工作到nginx配置 2022-11-14 22:27·OpenIM 一.准备工作 运行环境 linux系统即可, Ubuntu 7.5.0-3ubuntu1~ ...
- 使用logrotate管理nginx日志文件
本文转载自:http://linux008.blog.51cto.com/2837805/555829 描述:linux日志文件如果不定期清理,会填满整个磁盘.这样会很危险,因此日志管理是系统管理员日 ...
- php+php-fom+nginx配置参数调优详解
文章目录 一.前言 1.mysql配置参数: 2.注意 二.php参数配置及讲解 1.phpini的基本设置 2.php参数设置 三.php-fpm设置 1.设置子进程数,增加并发量 2.防止频繁出现 ...
- nginx 配置静态文件目录_nginx缓存静态资源,只需几个配置提升10倍页面加载速度...
nginx缓存静态资源,只需几个配置提升10倍页面加载速度 首先我们看图说话 这是在没有缓存的情况下,这个页面发送了很多静态资源的请求: 可以看到,静态资源占用了整个页面加载用时的90%以上,而且这个 ...
最新文章
- Express.js 中的 Sessions 如何工作?(译)
- (少儿教育) 数学-培训计划
- MongoDB PHP数据库查询类
- Jira 的 数据库备份恢复 简单过程
- python 模块 包 库_模块(包、库)
- HTML5 文档头部
- 记录一次在centos下使用gmp的悲伤
- 一天一种设计模式之二-----备忘录模式
- EF Commander v19.08破解版
- sap linux 安装教程,Ubuntu Linux 下安装Sapgui740
- 运营必备 - PV、UV、IP 分别是什么意思?
- python怎么用sin_python怎么打sin
- SAP 采购申请、采购订单的审批策略
- android陀螺仪手机垂直角度,Android设备中实现陀螺仪(Orientation Sensor)
- 百度地图API Android SDK 常见问题
- 研究生期间如何做研究:一些建议
- 关于计算机的未来想象作文,有关于未来生活的想象作文
- 【poj 1182】食物链 并查集应用
- C#操作json字符串
- Eclipse导入jar包并查看源代码