读懂才会用 : 瞅瞅Redis的epoll模型
上一篇提到了Redis采用epoll模型来提升链接处理能力。本文,我们从源代码的角度,简单理解Redis是如何使用epoll以及epoll的实现原理。浅入浅出~
通过本文了解如下三件事儿,就算是达到了本文目的:
1、epoll是Linux提供的系统实现,核心方法只有三个
2、epoll效率高,是因为基于红黑树、双向链表、事件回调机制
3、redis的IO多路复用,Linux上用epoll进行了实现
epoll是Linux内核提供的一种多路复用器,照例问问Linux的男人:
EPOLL(7) Linux Programmer's Manual EPOLL(7)NAMEepoll - I/O event notification facilitySYNOPSIS#include <sys/epoll.h>DESCRIPTIONThe epoll API performs a similar task to poll(2): monitoring multiple filedescriptors to see if I/O is possible on any of them. The epoll API canbe used either as an edge-triggered or a level-triggered interface andscales well to large numbers of watched file descriptors. The followingsystem calls are provided to create and manage an epoll instance:* epoll_create(2) creates an epoll instance and returns a file descriptorreferring to that instance. (The more recent epoll_create1(2) extendsthe functionality of epoll_create(2).)* Interest in particular file descriptors is then registered viaepoll_ctl(2). The set of file descriptors currently registered on anepoll instance is sometimes called an epoll set.* epoll_wait(2) waits for I/O events, blocking the calling thread if noevents are currently available.
核心方法
man告诉我们epoll的定义在sys/epoll.h中,查看核心函数有3个:(在线代码https://elixir.bootlin.com/linux/v4.19.76/source/fs/eventpoll.c)
epoll_create
epoll_create(int size)
核心功能:
创建一个epoll文件描述符
创建eventpoll,其中包含红黑树cache和双向链表
参数size并不是限制了epoll所能监听的文件描述符最大个数,只是对内核初始分配内部数据结构的一个建议。在Linux 2.6.8后,size 参数被忽略,但是必须传一个比 0 大的数。
调用epoll_create后,会占用一个fd值。在Linux下可以查看/proc/$$/fd/ 文件描述符。使用完,需要调用close关闭。
eventpoll代码片段:
struct eventpoll {/** This mutex is used to ensure that files are not removed* while epoll is using them. This is held during the event* collection loop, the file cleanup path, the epoll file exit* code and the ctl operations.*/struct mutex mtx;/* Wait queue used by sys_epoll_wait() */wait_queue_head_t wq;/* Wait queue used by file->poll() */wait_queue_head_t poll_wait;/* List of ready file descriptors */struct list_head rdllist;//就绪列表,采用双向链表/* RB tree root used to store monitored fd structs */struct rb_root_cached rbr;//红黑树,保存存活的fd/** This is a single linked list that chains all the "struct epitem" that* happened while transferring ready events to userspace w/out* holding ->wq.lock.*/struct epitem *ovflist;/* wakeup_source used when ep_scan_ready_list is running */struct wakeup_source *ws;/* The user that created the eventpoll descriptor */struct user_struct *user;struct file *file;/* used to optimize loop detection check */int visited;struct list_head visited_list_link;#ifdef CONFIG_NET_RX_BUSY_POLL/* used to track busy poll napi_id */unsigned int napi_id;
#endif
};
epollctl
int epollctl(int epfd, int op, int fd, struct epollevent *event);
核心功能:
对指定描述符fd执行op的绑定操作
把fd写入红黑树,同时在内核注册回调函数
op操作类型,用三个宏EPOLL_CTL_ADD,EPOLL_CTL_DEL,EPOLL_CTL_MOD,来分别表示增删改对fd的监听。
epollwait
int epollwait(int epfd, struct epollevent *events, int maxevents, int timeout);
核心功能:
获取epfd上的io事件
参数events是就绪事件,用来得到想要获得的事件集合。maxevents表示的events有多大,maxevents的值必须大于0,参数timeout是超时时间。epollwait会阻塞,直到一个文件描述符触发了事件,或者被一个信号处理函数打断,或者timeout超时。返回值是需要处理的fd数量。
工作机制
建立高速缓存(红黑树)和待读取列表(双向链表)
对要监控的fd(一切都是fd,参考NIO 看破也说破(一)—— Linux/IO 基础),进行事件绑定。事件发生,通过callback放入待读取列表
阻塞获取待读取列表
执行流程
优点
epoll创建的红黑树保存所有fd,没有大小限制,且增删查的复杂度O(logN)
基于callback,利用系统内核触发感兴趣的事件
就绪列表为双线链表时间复杂度O(1)
应用获取到的fd都是真实发生IO的fd,与select 和 poll 需要不断轮询判断是否可用相比,能避免无用的内存拷贝
结合Redis代码
源码太多,我们只看和本文相关的模块
事件处理模块 ae.c/ae_epoll.c
网路链接库 anet.c
和networking.c
服务器端 server.c
创建事件管理器
server.c 的 L2702 initServer()
是redis server 的启动入口,
首先创建aeEventLoop
对象,在L2743调用 aeCreateEventLoop()
,初始化未就绪文件事件表、就绪文件事件表。events指针指向未就绪文件事件表、fired指针指向就绪文件事件表。
aeEventLoop *aeCreateEventLoop(int setsize) {aeEventLoop *eventLoop;int i;if ((eventLoop = zmalloc(sizeof(*eventLoop))) == NULL) goto err;eventLoop->events = zmalloc(sizeof(aeFileEvent)*setsize);eventLoop->fired = zmalloc(sizeof(aeFiredEvent)*setsize);if (eventLoop->events == NULL || eventLoop->fired == NULL) goto err;eventLoop->setsize = setsize;eventLoop->lastTime = time(NULL);eventLoop->timeEventHead = NULL;eventLoop->timeEventNextId = 0;eventLoop->stop = 0;eventLoop->maxfd = -1;eventLoop->beforesleep = NULL;eventLoop->aftersleep = NULL;eventLoop->flags = 0;if (aeApiCreate(eventLoop) == -1) goto err;/* Events with mask == AE_NONE are not set. So let's initialize the* vector with it. */for (i = 0; i < setsize; i++)eventLoop->events[i].mask = AE_NONE;return eventLoop;err:if (eventLoop) {zfree(eventLoop->events);zfree(eventLoop->fired);zfree(eventLoop);}return NULL;
}
在ae_epoll.c
L39 调用aeApiCreate
函数,首先创建了aeApiState
对象,初始化了epoll就绪事件表;然后调用epoll_create
创建了epoll实例,最后将该aeApiState
赋值给apidata属性
static int aeApiCreate(aeEventLoop *eventLoop) {aeApiState *state = zmalloc(sizeof(aeApiState));if (!state) return -1;state->events = zmalloc(sizeof(struct epoll_event)*eventLoop->setsize);if (!state->events) {zfree(state);return -1;}state->epfd = epoll_create(1024); /* 1024 is just a hint for the kernel */if (state->epfd == -1) {zfree(state->events);zfree(state);return -1;}eventLoop->apidata = state;return 0;
}
绑定事件
aeFileEvent
是文件事件结构,对于每一个具体的事件,都有读处理函数和写处理函数。Redis 调用aeCreateFileEvent
函数针对不同的套接字的读写事件,注册对应的文件事件。
/* File event structure */
typedef struct aeFileEvent {int mask; /* one of AE_(READABLE|WRITABLE|BARRIER) */aeFileProc *rfileProc;//读aeFileProc *wfileProc;//写void *clientData;
} aeFileEvent;
server.c L2848 aeCreateFileEvent
创建文件事件,执行 ae_epoll.c L73 aeApiAddEvent
static int aeApiAddEvent(aeEventLoop *eventLoop, int fd, int mask) {aeApiState *state = eventLoop->apidata;struct epoll_event ee = {0}; /* avoid valgrind warning *//* If the fd was already monitored for some event, we need a MOD* operation. Otherwise we need an ADD operation. */int op = eventLoop->events[fd].mask == AE_NONE ?EPOLL_CTL_ADD : EPOLL_CTL_MOD;ee.events = 0;mask |= eventLoop->events[fd].mask; /* Merge old events */if (mask & AE_READABLE) ee.events |= EPOLLIN;if (mask & AE_WRITABLE) ee.events |= EPOLLOUT;ee.data.fd = fd;if (epoll_ctl(state->epfd,op,fd,&ee) == -1) return -1;return 0;
}
aeApiAddEvent
调用系统 epoll_ctl
,注册事件
处理事件
server.c倒数第三行,调用aeMain
方法
void aeMain(aeEventLoop *eventLoop) {eventLoop->stop = 0;while (!eventLoop->stop) {if (eventLoop->beforesleep != NULL)eventLoop->beforesleep(eventLoop);aeProcessEvents(eventLoop, AE_ALL_EVENTS|AE_CALL_AFTER_SLEEP);}
}
aeProcessEvents
方法中针对事件和文件事件处理,在ae.c L433 调用 aeApiPoll
,方法具体实现在ae_poll.c L108:
static int aeApiPoll(aeEventLoop *eventLoop, struct timeval *tvp) {aeApiState *state = eventLoop->apidata;int retval, numevents = 0;retval = epoll_wait(state->epfd,state->events,eventLoop->setsize,tvp ? (tvp->tv_sec*1000 + tvp->tv_usec/1000) : -1);if (retval > 0) {int j;numevents = retval;for (j = 0; j < numevents; j++) {int mask = 0;struct epoll_event *e = state->events+j;if (e->events & EPOLLIN) mask |= AE_READABLE;if (e->events & EPOLLOUT) mask |= AE_WRITABLE;if (e->events & EPOLLERR) mask |= AE_WRITABLE|AE_READABLE;if (e->events & EPOLLHUP) mask |= AE_WRITABLE|AE_READABLE;eventLoop->fired[j].fd = e->data.fd;eventLoop->fired[j].mask = mask;}}return numevents;
}
调用epoll_wait
阻塞等待epoll的事件就绪,超时时间就是之前根据最快达到时间事件计算而来的超时时间;然后将就绪的epoll事件转换到fired就绪事件。aeApiPoll
就是上文所说的I/O多路复用程序。
结论
epoll_create 创建就绪列表
epoll_ctl绑定事件,事件发生时fd到就绪列表
epoll_wait读取就绪列表
参考:
redis6.0.1源码
https://elixir.bootlin.com/linux/v4.19.76/source/fs/eventpoll.c
man手册
NIO 看破也说破(一)—— Linux/IO 基础
关注我
如果您在微信阅读,请您点击链接 关注我 ,如果您在 PC 上阅读请扫码关注我,欢迎与我交流随时指出错误
读懂才会用 : 瞅瞅Redis的epoll模型相关推荐
- Redis的epoll模型
之前相关文章推荐:Redis高性能与epoll 本文,我们从源代码的角度,简单理解Redis是如何使用epoll以及epoll的实现原理.浅入浅出~ 找我交流 通过本文了解如下三件事儿,就算是达到了本 ...
- 一文读懂NLP之隐马尔科夫模型(HMM)详解加python实现
一文读懂NLP之隐马尔科夫模型(HMM)详解加python实现 1 隐马尔科夫模型 1.1 HMM解决的问题 1.2 HMM模型的定义 1.2.1HMM的两个假设 1.2.2 HMM模型 1.3 HM ...
- zset中的score_读懂才会用 : 带你见识 Redis 的 zset
快餐车 本文从代码角度分析Redis 的 zset 结构,希望通过本文掌握如下内容: Redis 中 zset 不是单一结构完成,是跳表和哈希表共同完成 跳表的实现原理,跳表升维全靠随机 跳表中查找. ...
- 读懂才会用 : 带你见识 Redis 的 zset
快餐车 本文从代码角度分析Redis 的 zset 结构,希望通过本文掌握如下内容: Redis 中 zset 不是单一结构完成,是跳表和哈希表共同完成 跳表的实现原理,跳表升维全靠随机 跳表中查找. ...
- 【机器学习基础】一文读懂用于序列标注的条件随机场(CRF)模型
模型前的铺垫 我们先引入一个假设,假设一个句子的产生只需要两步: 第一步:基于语法产生一个合乎文法的词性序列 第二步:对第一步产生的序列中的每个词性找到符合这个词性的一个词汇,从而产生一个词汇序列,便 ...
- 一文读懂云计算和PAYG“现付现用”模型
戳蓝字"CSDN云计算"关注我们哦! 译者 | 风车云马 或许您对云计算听的比较多,但是对于"现付现用"(Pay-As-You-Go,PAYG)模型是什么还不十 ...
- 一文读懂多元线性回归
一文读懂多元线性回归 一.什么是线性回归模型 1.1模型 1.2线性 1.3回归 二.如何建立线性回归模型 2.1寻找yyy和xxx 2.2确定模型参数 2.2.1 拟合的角度 什么是拟合 最小二乘法 ...
- 【统计分析】一文读懂假设检验
假设检验 Author:王圣元 From:王的机器 全文共 2915 字,10 幅图, 预计阅读时间 8 分钟. 0 假设 + 检验 字面上看,假设检验(hypothesis testing)由&qu ...
- 读懂 Redis 源码,我总结了这7点心得
作者|Magic Kaito 来源|水滴与银弹 阅读本文大约需要 8 分钟. 你好,我是 Kaito. 用了这么久的 Redis,也翻了很多次源码,经常有人问我到底怎么读 Redis 源码. 一提到读 ...
- 一文读懂Redis常见对象类型的底层数据结构
点击上方 好好学java ,选择 星标 公众号 重磅资讯.干货,第一时间送达 今日推荐:硬刚一周,3W字总结,一年的经验告诉你如何准备校招! 个人原创100W+访问量博客:点击前往,查看更多 转自:伍 ...
最新文章
- 如何正确处理Android6.0+的运行时权限申请
- mllib调参 spark_从Spark MLlib到美图机器学习框架实践
- Golang之实现一个负载均衡算法(随机,轮询)
- 字节流和字符流哪个不刷新_不喜欢节流吗?
- 根据rtk参数在arcgis中进行可视化
- 与众不同 windows phone (36) - 8.0 新的瓷贴: FlipTile, CycleTile, IconicTile
- 【Day03】使用原型最大的好处及原型链的理解
- Linux命令--- /dev/null和/dev/tty
- cogs 2620. [HEOI2012]朋友圈
- C 标准库 —— time.h
- Linux电源管理-Autosleep
- 高级与低级编程语言的解释,哪一种更容易上手?
- google“退出”中国?
- C++之类和对象基础认知
- Rust 官方入门程序(a Guessing Game)解读
- 【BSP视频教程】STM32H7视频教程第2期:STM32H7四通八达的总线矩阵,从系统框架整体把控H7
- Piggy Back
- 金山安全实验室公布中国网络六大类钓鱼网站
- 无人驾驶技术——初探Kalman滤波器
- 工作流+BPM+BPMN