作者:我最喜欢三大框架

https://my.oschina.net/u/3906190/blog/1859060

目录:

1. Nginx的整体架构

2. Nginx的模块化设计

3. Nginx的请求方式处理

4. Nginx事件驱动模型

5. Nginx进程处理模型

在前面

Nginx 是一个 免费的,开源的,高性能的 HTTP 服务器和反向代理。以其高性能,稳定性,丰富的功能,简单的配置和低资源消耗而闻名。Nginx是一个Web服务器,也可以用作负载均衡器和 HTTP 缓存 。

很多高知名度的网站都使用 Nginx,比如:Netflix , GitHub , SoundCloud , MaxCDN 等。

正文

1. Nginx的整体架构

1.1. 主进程

Nginx 启动时,会生成两种类型的进程,一个是主进程 ( master ), 一个 ( windows版本的目前只有一个)或 多个工作进程 ( worker )。

主进程并不处理网络请求,主要负责调度工作进程 ,也就是图示的 3 项:

  • 加载配置

  • 启动工作进程

  • 非停升级

因此,Nginx 启动以后,查看操作系统的进程列表,我们就能看到至少有两个Nginx 进程。

1.2. 工作进程

服务器实际处理网络请求及响应的是工作进程 ( worker ),在类 unix 系统上, Nginx可以配置多个worker ,而每个 worker 进程都可以同时处理数以千计的网络请求 。

1.3. 模块化设计

Nginx的worker进程,包括核心和功能性模块,核心模块负责维持一个运行循环 ( run-loop ),执行网络请求处理的 不同阶段 的模块功能。

比如: 网络读写 、 存储读写、 内容传输 、 外出过滤 ,以及将请求发往上游服务器等。

而其代码的模块化设计 ,也使得我们可以根据需要对 功能模块 进行适当的 选择 和 修改 ,编译成具有 特定功能的服务器。

1.4. 事件驱动模型

基于 异步及非阻塞的事件驱动模型 ,可以说是 Nginx 得以获得高并发、高性能的关键因素,同时也得益于对 Linux 、 Solaris 及类 BSD 等操作系统内核中 事件通知 及 I/O 性能增强功能 的采用,如 kqueue 、 epoll 及 event ports 。

1.5. 代理(proxy)设计

代理设计,可以说是 Nginx 深入骨髓的设计,无论是对于 HTTP ,还是对于 FastCGI 、 Memcache 、 Redis 等的网络请求或响应,本质上都采用了 代理机制 。所以, Nginx 天生就是高性能的 代理服务器 。

2. Nginx的模块化设计

高度模块化的设计是 Nginx 的架构基础。Nginx 服务器被分解为多个模块 ,每个模块就是一个功能模块 ,只负责自身的功能,模块之间严格遵循 “高内聚,低耦合” 的原则。

如下图所示:

2.1. 核心模块

核心模块是 Nginx 服务器正常运行 必不可少的模块,提供错误日志记录 、 配置文件解析 、 事件驱动机制 、 进程管理 等核心功能。

2.2. 标准HTTP模块

标准 HTTP 模块提供 HTTP 协议解析相关的功能,比如: 端口配置 、 网页编码设置 、 HTTP响应头设置 等等。

2.3. 可选HTTP模块

可选 HTTP 模块主要用于 扩展 标准的 HTTP 功能,让 Nginx 能处理一些特殊的服务,比如:Flash 多媒体传输 、解析 GeoIP 请求、 网络传输压缩 、 安全协议 SSL 支持等。

2.4. 邮件服务模块

邮件服务模块主要用于支持 Nginx 的 邮件服务 ,包括对 POP3 协议、 IMAP 协议和 SMTP协议的支持。

2.5. 第三方模块

第三方模块是为了扩展 Nginx 服务器应用,完成开发者自定义功能,比如:Json 支持、 Lua 支持等。

3. Nginx的请求方式处理

Nginx 是一个 高性能 的 Web 服务器,能够同时处理大量的并发请求 。它结合多进程机制和 异步机制 ,异步机制使用的是 异步非阻塞方式 ,接下来就给大家介绍一下 Nginx 的 多线程机制 和 异步非阻塞机制 。

3.1. 多进程机制

服务器每当收到一个客户端时,就有 服务器主进程 ( master process )生成一个 子进程( worker process )出来和客户端建立连接进行交互,直到连接断开,该子进程就结束了。

使用 进程 的好处是 各个进程之间相互独立 , 不需要加锁 ,减少了使用锁对性能造成影响,同时降低编程的复杂度,降低开发成本。

其次,采用独立的进程,可以让 进程互相之间不会影响 ,如果一个进程发生异常退出时,其它进程正常工作, master 进程则很快启动新的 worker 进程,确保服务不会中断,从而将风险降到最低。

缺点是操作系统生成一个 子进程 需要进行 内存复制 等操作,在 资源 和 时间 上会产生一定的开销。当有 大量请求 时,会导致 系统性能下降 。

3.2. 异步非阻塞机制

每个 工作进程 使用 异步非阻塞方式 ,可以处理多个客户端请求 。

当某个 工作进程 接收到客户端的请求以后,调用 IO 进行处理,如果不能立即得到结果,就去处理其他请求 (即为非阻塞 ),而客户端在此期间也无需等待响应 ,可以去处理其他事情(即为异步 )

当 IO 返回时,就会通知此工作进程,该进程得到通知,暂时挂起当前处理的事务去 响应客户端请求 。

4. Nginx事件驱动模型

在 Nginx 的 异步非阻塞机制 中, 工作进程在调用 IO 后,就去处理其他的请求,当 IO 调用返回后,会通知该工作进程 。

对于这样的系统调用,主要使用 Nginx 服务器的事件驱动模型来实现,如下图所示:

如上图所示, Nginx 的 事件驱动模型 由 事件收集器 、 事件发送器 和 事件处理器 三部分基本单元组成。

  • 事件收集器:负责收集 worker 进程的各种 IO 请求;

  • 事件发送器:负责将 IO 事件发送到 事件处理器 ;

  • 事件处理器:负责各种事件的 响应工作 。

事件发送器将每个请求放入一个 待处理事件列表 ,使用非阻塞 I/O 方式调用 事件处理器来处理该请求。

其处理方式称为 “多路 IO 复用方法” ,常见的包括以下三种:select 模型、 poll模型、 epoll 模型。

5. Nginx进程处理模型

Nginx 服务器使用 master/worker 多进程模式,多线程启动和执行的流程如下:

  1. 主程序Master process启动后,通过一个 for 循环来接收和处理外部信号

  2. 主进程通过 fork() 函数产生 worker 子进程 ,每个 子进程 执行一个 for 循环来实现 Nginx 服务器 对事件的接收 和 处理

一般推荐 worker 进程数 与 CPU 内核数 一致,这样一来不存在 大量的子进程 生成和管理任务,避免了进程之间 竞争 CPU 资源 和 进程切换 的开销。

而且 Nginx 为了更好的利用 多核特性 ,提供了 CPU 亲缘性 的绑定选项,我们可以将某 一个进程绑定在某一个核上,这样就不会因为 进程的切换 带来 Cache 的失效。

对于每个请求,有且只有一个 工作进程 对其处理。首先,每个 worker 进程都是从 master进程 fork 过来。在 master 进程里面,先建立好需要 listen 的 socket(listenfd) 之后,然后再 fork 出多个 worker 进程。

所有 worker 进程的 listenfd 会在 新连接 到来时变得 可读 ,为保证只有一个进程处理该连接,所有 worker 进程在注册 listenfd 读事件前抢占 accept_mutex

抢到 互斥锁 的那个进程注册 listenfd 读事件 ,在读事件里调用 accept 接受该连接。

当一个 worker 进程在 accept 这个连接之后,就开始读取请求 , 解析请求 , 处理请求,产生数据后,再返回给客户端 ,最后才断开连接 ,一个完整的请求就是这样。

我们可以看到,一个请求,完全由 worker 进程来处理,而且只在一个 worker 进程中处理。

如下图所示:

在 Nginx 服务器的运行过程中, 主进程 和 工作进程 需要进程交互。交互依赖于 Socket 实现的管道来实现。

5.1. 主进程与工作进程交互

这条管道与普通的管道不同,它是由 主进程 指向 工作进程 的单向管道 ,包含主进程向工作进程发出的指令工,作进程 ID 等。同时主进程与外界通过信号通信 ;每个子进程具备接收信号 ,并处理相应的事件的能力。

5.2. 工作进程与工作进程交互

这种交互和 主进程-工作进程 交互基本一致,但是会通过主进程间接完成,工作进程之间是相互隔离的。

所以当工作进程 W1 需要向工作进程 W2 发指令时,首先找到 W2 的 进程ID ,然后将正确的指令写入指向 W2 的 通道,W2 收到信号采取相应的措施。

小结

通过这篇文章,我们对 Nginx 服务器的 整体架构 有了一个整体的认识。包括其 模块化的设计、 多进程 和 异步非阻塞 的请求处理方式、 事件驱动模型 等。

通过这些理论知识,才能更好地领悟 Nginx 的设计思想。对于我们学习 Nginx 来说有很大的帮助。

猜你喜欢

1、GitHub 标星 3.2w!史上最全技术人员面试手册!FackBoo发起和总结

2、如何才能成为优秀的架构师?

3、从零开始搭建创业公司后台技术栈

4、程序员一般可以从什么平台接私活?

5、37岁程序员被裁,120天没找到工作,无奈去小公司,结果懵了...

6、滴滴业务中台构建实践,首次曝光

7、不认命,从10年流水线工人,到谷歌上班的程序媛,一位湖南妹子的励志故事

8、15张图看懂瞎忙和高效的区别!

Nginx 优秀的核心架构设计揭秘,让你搞懂高并发之道相关推荐

  1. 从 Nginx 优秀的核心架构设计,揭秘其为何能支持高并发?

    作者:我最喜欢三大框架 https://my.oschina.net/u/3906190/blog/1859060 目录: 1. Nginx的整体架构 2. Nginx的模块化设计 3. Nginx的 ...

  2. 从Nginx优秀的核心架构设计,揭秘其为何能支持高并发

    目录: Nginx的整体架构 Nginx的模块化设计 Nginx的请求方式处理 Nginx事件驱动模型 Nginx进程处理模型 Nginx简介 Nginx 是一个免费的,开源的,高性能HTTP 服务器 ...

  3. 用户画像系列——数据中台之OneID (ID-Mapping)核心架构设计

    一.引言 大家在上网的过程中是不是经常有这样的体验,我在百度(或者京东.淘宝)上搜索一件商品(比如说:我搜索了一台iphone 手机看了看,但是没买),奇怪的是过两天,我竟然在某视频平台或者某网页上又 ...

  4. Nginx 核心架构设计

    前言 最近在读 Nginx 相关的书籍,做一下读书笔记. Nginx 作为业界知名的高性能服务器,被广泛的应用.它的高性能正是由于其优秀的架构设计,其架构主要包括这几点:模块化设计.事件驱动架构.请求 ...

  5. 浅谈Nginx服务器的内部核心架构设计

    前言 Nginx 是一个 免费的,开源的,高性能 的 HTTP 服务器和 反向代理,以及 IMAP / POP3 代理服务器. Nginx 以其高性能,稳定性,丰富的功能,简单的配置和低资源消耗而闻名 ...

  6. 企业微信的IM架构设计揭秘:消息模型、万人群、已读回执、消息撤回等

    本文作者潘唐磊,腾讯WXG(微信事业群)开发工程师,毕业于中山大学.内容有修订. 1.内容概述 本文总结了企业微信的IM消息系统架构设计,阐述了企业业务给IM架构设计带来的技术难点和挑战,以及技术方案 ...

  7. Nginx技术研究系列7-Azure环境中Nginx高可用性和部署架构设计

    前几篇文章介绍了Nginx的应用.动态路由.配置.在实际生产环境部署时,我们需要同时考虑Nginx的高可用性和部署架构. Nginx自身不支持集群以保证自身的高可用性,商业版本的Nginx+推荐: T ...

  8. 深入剖析优惠券核心架构设计

    很多网站都有优惠券业务,但是剖析优惠券架构的技术文章却很少,优惠券看似简单,但内部涉及用户.商品.平台.店铺等综合维度下各种营销玩法,复杂度一下会提高很多.所以写了这篇文章来看看优惠券是如何技术架构的 ...

  9. 鹅厂文档解密:天涯明月刀服务器架构设计揭秘

    本文由腾讯GAD平台授权发布 天涯明月刀在测试期间,由于放号量大,玩家热情高,服务器一直承担很大的压力,生怕由于宕机不可恢复等原因造成玩家流失或是口碑下降.好在通过一系列预定方案的实施和不断优化,虽然 ...

  10. 从编码、网络传输、架构设计揭秘腾讯云高质量、高可用实时音视频技术实践...

    在互联网飞速发展的时代,视频应用无处不在,各行各业对视频技术的需求开始爆发.伴随视频分辨率的提高,音视频玩法的快速更新以及用户对观看体验需求的不断增加,越来越多的应用场景对音视频技术提出了更高的要求. ...

最新文章

  1. python处理3000个excel-Python处理Excel数据的坑,一文让你不用重复犯错
  2. 中小企业网络管理技术完全篇
  3. Android开源框架——网络解析GSON
  4. Linux学习之系统编程篇:利用 shm 进行进程间通信
  5. web框架django初探
  6. 一篇短文带您了解一下EasyCaching
  7. charles 安装 ssl_最全面的解决Charles手机抓包的证书问题(步骤非常详细)
  8. C/C++编程笔记:C/C++ 的编译和链接
  9. 常用验证函数isset()/empty()/is_numeric()函数
  10. vue标准时间改为时间戳_2021考研网上确认照片采集新标准公布 网上确认时间表...
  11. 半个月使用rust语言的体验
  12. H3CNE V7.0 视频教程
  13. 关于瑞星杀毒软件对浏览器速度的影响
  14. 【最新面试】2022年软件测试面试题大全(持续更新)附答案
  15. pythoneducoder苹果梨子煮水的功效_荸荠和梨子一起煮的好处
  16. 企业要融资,增资好还是股权转让好
  17. 文件与磁盘空间管理---外存分配方式、存储空间管理
  18. 谷歌黑搜索怎么收_谷歌搜索持久的反黑种族主义
  19. MOG插件(葡萄牙语,略作翻译)
  20. Vue实现 上传文件到七牛云

热门文章

  1. MYSQL的空间查询
  2. AC日记——单词替换 1.7 21
  3. 2014阿里实习生面试题——mysql如何实现的索引
  4. TOJ3649欧拉回路
  5. 连线杂志:史上最强的恶意软件Stuxnet揭秘
  6. 完整的网络端口表《三》
  7. 【安全系列】IPSEC ×××之安全基础篇
  8. 「leetcode」40.组合总和II【回溯算法】详解!
  9. API文档和代码片段管理器:​​​​Dash
  10. EPSViewer Pro for Mac(矢量图浏览工具)