Guava RateLimiter 实现 API 限流,这才是正确的姿势!
点击关注公众号,回复“2T”获取2TB学习资源!
互联网架构师后台回复 2T 有特别礼包
上一篇:深夜看了张一鸣的微博,让我越想越后怕
Guava提供的RateLimiter可以限制物理或逻辑资源的被访问速率,咋一听有点像java并发包下的Samephore,但是又不相同,RateLimiter控制的是速率,Samephore控制的是并发量。
RateLimiter的原理类似于令牌桶,它主要由许可发出的速率来定义,如果没有额外的配置,许可证将按每秒许可证规定的固定速度分配,许可将被平滑地分发,若请求超过permitsPerSecond则RateLimiter按照每秒 1/permitsPerSecond 的速率释放许可。
<dependency><groupId>com.google.guava</groupId><artifactId>guava</artifactId><version>23.0</version>
</dependency>
public static void main(String[] args) {String start = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss").format(new Date());RateLimiter limiter = RateLimiter.create(1.0); // 这里的1表示每秒允许处理的量为1个for (int i = 1; i <= 10; i++) { limiter.acquire();// 请求RateLimiter, 超过permits会被阻塞System.out.println("call execute.." + i);}String end = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss").format(new Date());System.out.println("start time:" + start);System.out.println("end time:" + end);
}
可以看到,我假定了每秒处理请求的速率为1个,现在我有10个任务要处理,那么RateLimiter就很好的实现了控制速率,总共10个任务,需要9次获取许可,所以最后10个任务的消耗时间为9s左右。那么在实际的项目中是如何使用的呢??
另外,Java 多线程系列面试题和答案全部整理好了,微信搜索互联网架构师,在后台发送:2T获取。
实际项目中使用
@Service
public class GuavaRateLimiterService {/*每秒控制5个许可*/RateLimiter rateLimiter = RateLimiter.create(5.0);/*** 获取令牌** @return*/public boolean tryAcquire() {return rateLimiter.tryAcquire();}}@Autowiredprivate GuavaRateLimiterService rateLimiterService;@ResponseBody@RequestMapping("/ratelimiter")public Result testRateLimiter(){if(rateLimiterService.tryAcquire()){return ResultUtil.success1(1001,"成功获取许可");}return ResultUtil.success1(1002,"未获取到许可");}
jmeter起10个线程并发访问接口,测试结果如下:
可以发现,10个并发访问总是只有6个能获取到许可,结论就是能获取到RateLimiter.create(n)中n+1个许可,总体来看Guava的RateLimiter是比较优雅的。本文就是简单的提了下RateLimiter的使用。
翻阅发现使用上述方式使用RateLimiter的方式不够优雅,尽管我们可以把RateLimiter的逻辑包在service里面,controller直接调用即可,但是如果我们换成:自定义注解+切面 的方式实现的话,会优雅的多,详细见下面代码:
自定义注解类
import java.lang.annotation.*;/*** 自定义注解可以不包含属性,成为一个标识注解*/
@Inherited
@Documented
@Target({ElementType.METHOD, ElementType.FIELD, ElementType.TYPE})
@Retention(RetentionPolicy.RUNTIME)
public @interface RateLimitAspect {}
自定义切面类
import com.google.common.util.concurrent.RateLimiter;
import com.simons.cn.springbootdemo.util.ResultUtil;
import net.sf.json.JSONObject;
import org.aspectj.lang.ProceedingJoinPoint;
import org.aspectj.lang.annotation.Around;
import org.aspectj.lang.annotation.Aspect;
import org.aspectj.lang.annotation.Pointcut;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.context.annotation.Scope;
import org.springframework.stereotype.Component;import javax.servlet.ServletOutputStream;
import javax.servlet.http.HttpServletResponse;
import java.io.IOException;@Component
@Scope
@Aspect
public class RateLimitAop {@Autowiredprivate HttpServletResponse response;private RateLimiter rateLimiter = RateLimiter.create(5.0); //比如说,我这里设置"并发数"为5@Pointcut("@annotation(com.simons.cn.springbootdemo.aspect.RateLimitAspect)")public void serviceLimit() {}@Around("serviceLimit()")public Object around(ProceedingJoinPoint joinPoint) {Boolean flag = rateLimiter.tryAcquire();Object obj = null;try {if (flag) {obj = joinPoint.proceed();}else{String result = JSONObject.fromObject(ResultUtil.success1(100, "failure")).toString();output(response, result);}} catch (Throwable e) {e.printStackTrace();}System.out.println("flag=" + flag + ",obj=" + obj);return obj;}public void output(HttpServletResponse response, String msg) throws IOException {response.setContentType("application/json;charset=UTF-8");ServletOutputStream outputStream = null;try {outputStream = response.getOutputStream();outputStream.write(msg.getBytes("UTF-8"));} catch (IOException e) {e.printStackTrace();} finally {outputStream.flush();outputStream.close();}}
}
测试controller类
import com.simons.cn.springbootdemo.aspect.RateLimitAspect;
import com.simons.cn.springbootdemo.util.ResultUtil;
import org.springframework.stereotype.Controller;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.ResponseBody;/*** 类描述:RateLimit限流测试(基于 注解+切面 方式)* 创建人:simonsfan*/
@Controller
public class TestController {@ResponseBody@RateLimitAspect //可以非常方便的通过这个注解来实现限流@RequestMapping("/test")public String test(){return ResultUtil.success1(1001, "success").toString();}
这样通过自定义注解@RateLimiterAspect来动态的加到需要限流的接口上,个人认为是比较优雅的实现吧。
压测结果:
可以看到,10个线程中无论压测多少次,并发数总是限制在6,也就实现了限流。
作者:饭一碗
来源:https://blog.csdn.net/fanrenxiang/article/details/80949079
感谢您的阅读,也欢迎您发表关于这篇文章的任何建议,关注我,技术不迷茫!小编到你上高速。
· END ·
最后,关注公众号互联网架构师,在后台回复:2T,可以获取我整理的 Java 系列面试题和答案,非常齐全。
正文结束
推荐阅读 ↓↓↓
1.不认命,从10年流水线工人,到谷歌上班的程序媛,一位湖南妹子的励志故事
2.如何才能成为优秀的架构师?
3.从零开始搭建创业公司后台技术栈
4.程序员一般可以从什么平台接私活?
5.37岁程序员被裁,120天没找到工作,无奈去小公司,结果懵了...
6.IntelliJ IDEA 2019.3 首个最新访问版本发布,新特性抢先看
7.这封“领导痛批95后下属”的邮件,句句扎心!
8.15张图看懂瞎忙和高效的区别!
一个人学习、工作很迷茫?
点击「阅读原文」加入我们的小圈子!
Guava RateLimiter 实现 API 限流,这才是正确的姿势!相关推荐
- java guava限流,Guava的RateLimiter实现接口限流
最近开发需求中有需要对后台接口进行限流处理,整理了一下基本使用方法. 首先添加guava依赖: com.google.guava guava 23.0 然后封装RateLimiter适用对多接口的限制 ...
- Java互联网架构-如何设计服务接口API限流功能
API 概念的出现,远远早于个人计算机的诞生,更不用说网络的诞生了.在公用数据处理的早期,为了一个应用能够与其它系统交互,开发者便已开始设计可公开访问并描述清晰的"接入点".早在那 ...
- java api限流_Java 9:流API的增强
java api限流 Java 9向Stream接口添加了4种新方法: 1. dropWhile dropWhile方法类似于skip方法,但使用Predicate而不是固定的整数值. 当Predic ...
- 设计一个基于用户的API限流策略 Rate Limit
设计一个基于用户的API限流策略 Rate Limit 应用场景 API接口的流量控制策略:缓存.降级.限流.限流可以认为服务降级的一种,限流就是限制系统的输入和输出流量已达到保护系统的目的.限流策略 ...
- 计算机强制关机原理,解决PC常见问题 篇十六:究竟如何关机才是正确的姿势---关于“按电源键强制关机对硬件无危害”的...
解决PC常见问题 篇十六:究竟如何关机才是正确的姿势---关于"按电源键强制关机对硬件无危害"的 2020-08-10 10:21:40 36点赞 186收藏 64评论 本文背景 ...
- java 使用Guava的RateLimiter做接口限流+redis的lua脚本做IP防刷
需求: 每个IP在指定的时间内可以请求某一个接口多少次,如果请求次数超过指定数,就返回拒绝信息 没做IP防刷之前,请求多了之后服务蹦了 做防刷之后 当然,还有限流 直接上代码 接口注解代码: imp ...
- rateLimiter令牌桶限流算法
RateLimiter是guava提供的基于令牌桶算法的实现类,可以非常简单的完成限流特技,并且根据系统的实际情况来调整生成token的速率. 通常可应用于抢购限流防止冲垮系统:限制某接口.服务单位时 ...
- 单个接口添加超时时间_SpringBoot使用Guava令牌桶对接口限流
pom.xml引入jar包 com.google.guava guava 29.0-jre 代码 @RestControllerpublic class HelloController { //创建令 ...
- 基于用户的API限流策略
应用场景 API接口的流量控制策略:缓存.降级.限流.限流可以认为服务降级的一种,限流就是限制系统的输入和输出流量已达到保护系统的目的.限流策略虽然降低了服务接口的访问频率和并发量,却换取服务接口和业 ...
- 服务接口API限流 Rate Limit
转载:https://www.cnblogs.com/exceptioneye/p/4783904.html https://blog.csdn.net/zrg523/article/details/ ...
最新文章
- 创新工场2018年夏令营DeepCamp第一套解答笔记
- python opencv cv2.namedWindow(winname, flags=None) (命名)创建窗口 cv::WindowFlags
- 短文本分析----基于python的TF-IDF特征词标签自动化提取
- ad服务器修改域名,ad服务器改域名
- c语言程序基本设计,C语言程序的设计基本6.ppt
- STL 算法/容器——总论
- Hive复杂数据类型之array
- 共享单车项目计划书_2020年共享单车商业计划书模板
- 最怕虚拟机连不上网-记一次网卡消失
- 核磁共振成像读片指南(一)
- Uniapp子组件不显示
- 有了这几款软件,就不用纠结拍照识别植物的软件哪个好了
- 固态硬盘简称是不是ssd_Tigo金泰克
- 安卓音频输出采样率_android downsample降低音频采样频率代码
- 进阶项目(12)PS2键盘驱动程序设计讲解
- RTX3090 与pytorch版本对应关系
- Linux系统启动过程详解
- 基于横向轨迹误差法(Cross-track Error)P 导航二维控制 实现无人机水平面导航控制
- 洛谷1498 南蛮图腾
- 能让你哭泣四十首歌,和最好听的100首歌
热门文章
- webpack(一)
- WordPress: 使用 wp_insert_attachment 上传附件
- 《教孩子学编程(Python语言版)》——1.3 运行Python程序
- 断篇-金融大数据最佳实践总结篇
- atitit.研发管理--标准化流程总结---java开发环境与项目部署环境的搭建工具包总结...
- 王小毛是懒惰了,还是堕落了?
- 读火狐带来的感动一文你有和感受?
- 「代码随想录」322. 零钱兑换 【动态规划】力扣详解!
- 如何在任何设备上将您的Apple笔记导出为PDF文件?
- ON1 Photo RAW 2022 for Mac(ps/lr滤镜raw图像编辑器)