首先让我们先看一看系统架构设计中,为什么要做“限流”。不知道大家注意过没有,比如双11,刚过12点有些顾客的网页或APP会显示下单失败的提示,有些就是被限流掉了。

为什么要做限流

首先让我们先看一看系统架构设计中,为什么要做“限流”。

旅游景点通常都会有最大的接待量,不可能无限制的放游客进入,比如故宫每天只卖八万张票,超过八万的游客,无法买票进入,因为如果超过八万人,景点的工作人员可能就忙不过来,过于拥挤的景点也会影响游客的体验和心情,并且还会有安全隐患;「只卖N张票,这就是一种限流的手段」。

软件架构中的服务限流也是类似,也是当系统资源不够的时候,已经不足以应对大量的请求,为了保证服务还能够正常运行,那么按照规则,「系统会把多余的请求直接拒绝掉,以达到限流的效果」;

不知道大家注意过没有,比如双11,刚过12点有些顾客的网页或APP会显示下单失败的提示,有些就是被限流掉了。

常见的限流算法

计数法

顾名思义就是来一个,记录一个,比如我1分钟只能处理1000个请求,那么我们就可以设置一个计数器,来一个请求就incr+1,当1分钟之内的数量大于等于1000之后不处理了即可,伪代码如下

$redis = new Redis();
$redis->connect('127.0.0.1', 6379);
$rate_limit = 1000;  //限制个数
$rate_seconds = 60;  //限制时间
$redis_key = "redis_limit";
$count = $redis->get($redis_key);
if ($count >= $rate_limit){  //判断60秒内请求个数是否已经达到上限 //直接返回,不处理请求 return
}
$redis->incr($redis_key, 1);//请求计数
$redis->expire($redis, $rate_seconds); //设置过期时间 60s
//to do  业务逻辑处理....... 

这种计数方式比较简单快捷,但是有很大的缺点,因为请求的访问不一定是很平稳的,如果0:59过来了1000个请求,1:01已经是下一个窗口,又过来了1000个请求,但实际上三秒内来了2000个请求,已经超过我们的限流上限了。所以这种方法是不推荐的。

滑动窗口算法

还拿上面的例子,一分钟分6份,每份10秒;每过10秒钟,我们的时间窗口就会往右滑动一格,每个格子都有独立的计数器,我们每次都计算时间窗口内的数量,可以解决计数器法中的问题,而且当滑动窗口的格子越多,那么限流的统计就会越精确。具体可以参考下图,看图比较清晰

伪代码实现如下

function api_limit($scene,  $period, $maxCount){ $redis = new Redis(); $redis->connect('127.0.0.1', 6379); $key = sprintf('hist:%s', $scene); //限流场景唯一标识 $now = msectime();   // 毫秒时间戳,这样更精确 $pipe=$redis->multi(Redis::PIPELINE); //使用管道提升性能 $pipe->zadd($key, $now, $now); //value 和 score 都使用毫秒时间戳 $pipe->zremrangebyscore($key, 0, $now - $period); //移除时间窗口之前的行为记录,剩下的都是时间窗口内的 $pipe->zcard($key);  //获取窗口内的行为数量 $pipe->expire($key, $period/1000 + 1);  //多加一秒过期时间 $replies = $pipe->exec(); return $replies[2] <= $maxCount;  //$replies[2]为zcard返回的个数  如果zcard结果大于maxCount,则不处理结果
} for ($i=0; $i<20; $i++){  //测试限流是否实现代码 var_dump(isActionAllowed("uniq_scene", 60*1000, 5)); //执行可以发现只有前5次是通过的
} //返回当前的毫秒时间戳
function msectime() { list($msec, $sec) = explode(' ', microtime()); $msectime = (float)sprintf('%.0f', (floatval($msec) + floatval($sec)) * 1000); return $msectime; } 

这段代码还是略显复杂,需要读者花一定的时间好好啃。它的整体思路就是:每一个行为到来时,都维护一次时间窗口。将时间窗口外的记录全部清理掉,只保留窗口内的记录。

因为这几个连续的 Redis 操作都是针对同一个 key 的,使用 pipeline 可以显著提升Redis 存取效率。「但这种方案也有缺点,因为它要记录时间窗口内所有的行为记录,如果这个量很大,比如限定 60s 内操作不得超过 100w 次这样的参数,它是不适合做这样的限流的,因为会消耗大量的存储空间」。

后面还有漏桶算法和令牌桶算法,由于各自的实现比较复杂,所以准备各自新开一篇文章单独描述

Redis实际应用:限流相关推荐

  1. Redis 如何实现限流功能?

    "限流"这种事在生活中很常见,比如逢年过节时景点的限流,还有工作日的车辆单双号限流等,有人可能会问为什么要限流?我既然买了车子你还不让我上路开?还有我倒景点买了门票,景点不是能赚更 ...

  2. redis rua解决库存问题_库存秒杀问题-redis解决方案- 接口限流

    /** * Created by PhpStorm. * redis 销量超卖秒杀解决方案 * redis 文档:http://doc.redisfans.com/ * ab -n 10000 -c ...

  3. redis笔记2 限流、GeoHash和Scan

    限流 简单限流 简单限流的思路是,在规定的时间窗口内,给出规定的最大操作数量限制.使用zset结构作为一个用户行为的记录.zset的value和score都用来表示操作的时间戳.每次操作前,先把操作时 ...

  4. Redis做接口限流

    Redis 除了做缓存,还能干很多很多事情:分布式锁.限流.处理请求接口幂等性...太多太多了-,今天想和小伙伴们聊聊用 Redis 处理接口限流. 1. 准备工作 首先我们创建一个 Spring B ...

  5. Redis实现分布式限流(学习笔记

    Redis实现分布式限流(学习笔记2022.07.09) 前言: 以下实现都是基于: spring-boot-starter-web + spring-boot-starter-data-redis ...

  6. Redis 做接口限流

    Redis 除了做缓存,还能干很多很多事情:分布式锁.限流.处理请求接口幂等性...太多太多了- 今天想和小伙伴们聊聊用 Redis 处理接口限流,这也是最近的 TienChin 项目涉及到这个知识点 ...

  7. 基于Redis的分布式限流详解

    前言 Redis除了能用作缓存外,还有很多其他用途,比如分布式锁,分布式限流,分布式唯一主键等,本文将和大家分享下基于Redis分布式限流的各种实现方案. 一.为什么需要限流 用最简单的话来说:外部请 ...

  8. 基于Redis实现分布式应用限流--转

    原文地址:https://my.oschina.net/giegie/blog/1525931 摘要: 限流的目的是通过对并发访问/请求进行限速或者一个时间窗口内的的请求进行限速来保护系统,一旦达到限 ...

  9. Spring自定义注解+redis实现接口限流

    在实际开发中,有时候我们需要对某些接口进行限流,防止有人恶意攻击或者是因为某些接口自身的原因,比如发短信接口,IO处理的接口. 这里我们通过自定义一个注解,并利用Spring的AOP拦截器功能来实现限 ...

  10. redis实现简单限流

    首先我们给出限流的定义: 1. 限定某个行为在指定时间内被允许的最大次数 2. 限定某个用户的某个行为在指定时间内被允许的最大次数 其实二者差不多,前面一句是限定所有人,后面的是限定了每个用户 注意 ...

最新文章

  1. 学生籍贯信息管理系统c语言,学生籍贯信息管理系统(c).doc
  2. Bootstrap3 排版-改变大小写
  3. android listview 开发,android开发之ListView实现
  4. C#生成新浪微博短网址 示例源码
  5. C++常用字符串分割方法
  6. Missing iOS Distribution signing identity for XXXXX
  7. 你们的前端是怎么入门的?(并且找到工作)?
  8. 装饰效果(最大连续字段和)
  9. 基于数据报套接字的服务器回射程序设计_套接字Socket的常见面试题及答案
  10. 学计算机二级考试的软件,计算机二级考试模拟软件手机版
  11. 预充电电路工作原理_课堂 | 为什么锂电池在充电过程中首先要进行预充电
  12. 小米手机是什么系统?
  13. android检测蜂窝网络,怎么检查您的Android设备蜂窝信号强度?
  14. 个人最喜欢的几款火狐扩展
  15. CVPR2019资源汇总
  16. 为什么你招不到合适的猎头顾问?浅谈猎企内部招聘
  17. 插上U盘显示这个错误ERROR
  18. 【微分方程数值解】有限差分法(二)两点边值问题数值算例(附python代码)
  19. WFP过滤开发(一)
  20. MySQL入门 - 数据分组之 group by

热门文章

  1. 附下载|Python带你实践机器学习圣经PRML
  2. 文言文能编程了,口水战也开始了
  3. 山东人为什么爱用倒装句?没有吧我觉得。
  4. Django博客系统注册(创建用户模块应用)
  5. 一行命令搞定图像质量评价 | 附代码和操作步骤
  6. 编码不规范,同事真的会两行泪?
  7. Win10环境Tensorflow-GPU13.1/JupyterNotebook的安装
  8. 2018年8月以太坊DApp数据分析报告
  9. 06 回归算法 - 损失函数、过拟合欠拟合
  10. mysql root的密码忘了?linux下重置mysql的root用户密码。