java强制执行方法_java – 在多台机器上强制执行单一速率限制的好方法是什么？...

你说的两件事是：

1)"I would like to rate limit so that only 10,000 requests get processed/day"

2)"while still load balancing those 10,000 requests."

首先,您似乎正在使用分而治之的方法,其中来自最终用户的每个请求都被映射到n台机器中的一台.因此,为确保在给定时间范围内仅处理10,000个请求,有两个选项：

1)实现一个组合器,它将来自所有n台机器的结果路由到

然后外部API能够访问的另一个端点.这个端点能够

保持正在处理的工作量的计数,如果它超过了你的门槛,

然后拒绝这份工作.

2)另一种方法是将当天处理的作业数量存储为变量

在你的数据库里面.然后,通常的做法是检查您的阈值

在初始请求作业时,数据库中的值已达到

(甚至在你把它传递给你的一台机器之前).如果阈值已经过了

到了,然后在开始时拒绝工作.这与适当的消息相结合,具有为最终用户提供更好体验的优点.

为了确保所有这10,000个请求仍然是负载平衡的,以便没有1个CPU处理比任何其他CPU更多的作业,您应该使用简单的循环方法在m CPU上分配作业.使用循环法,与bin /分类方法相同,您将确保作业请求尽可能均匀地分布在您的n CPU上.循环的一个缺点是,根据您正在处理的作业类型,您可能会在开始扩展时复制大量数据.如果这是您关注的问题,您应该考虑实现一种局部敏感的哈希(LSH)函数.虽然良好的散列函数尽可能均匀地分布数据,但如果您选择散列的属性中的偏差很可能发生,则LSH会让您使CPU处理的作业多于其他CPU.与往常一样,这两者都有权衡,所以你最了解你的用例.

java强制执行方法_java – 在多台机器上强制执行单一速率限制的好方法是什么？...相关推荐

在多台机器上搭建Hadoop的分布式环境
2019独角兽企业重金招聘Python工程师标准>>> 分布式环境搭建之环境介绍之前我们已经介绍了如何在单机上搭建伪分布式的Hadoop环境,而在实际情况中,肯定都是多机器多节点的 ...
mysql在同一台机器上实现主从_MySQL 5.7主从搭建（同一台机器）
主从复制原理:复制是 MySQL 的一项功能,允许服务器将更改从一个实例复制到另一个实例.1)主服务器将所有数据和结构更改记录到二进制日志中.2)从属服务器从主服务器请求该二进制日志并在本地应用其内容 ...
一台机器上有几个java虚拟机
一台机器上java虚拟机会存在多少个? 一直以来,我都认为,每台电脑上java虚拟机只存在一个:如果你启动多个java程序,这些程序都在一个虚拟机中运行.这是常规的想法,就像我们自己的电脑,电脑只有一 ...
python 如何远程控制另一台机器-通过cmd执行文件
python 远程控制另一台机器通过cmd执行文件,通过本机控制远程主机执行代码. import wmi import pythoncom conn = pythoncom.CoInitialize( ...
window下在同一台机器上安装多个版本jdk，修改环境变量不生效问题处理办法
window下在同一台机器上安装多个版本jdk,修改环境变量不生效问题处理办法本机已经安装了jdk1.7,而比较早期的项目需要依赖jdk1.6,于是同时在本机安装了jdk1.6和jdk1.7. 安装 ...
github ssh密钥_如何使用SSH密钥在一台机器上管理多个GitHub帐户
github ssh密钥 The need to manage multiple GitHub accounts on the same machine comes up at some point ...
更改多个版本java_window下在同一台机器上安装多个版本jdk，修改环境变量不生效问题处理办法...
window下在同一台机器上安装多个版本jdk,修改环境变量不生效问题处理办法本机已经安装了jdk1.7,而比较早期的项目需要依赖jdk1.6,于是同时在本机安装了jdk1.6和jdk1.7. 安装 ...
php和mysql不在一台机器上_MySQL_在同一台机器上运行多个 MySQL 服务，**************************************** - phpStudy...
在同一台机器上运行多个 MySQL 服务 ********************************************************** 第一部分, 在一台服务器构建多mysql ...
如何实现一台机器上运行多个MySQL实例？
在一台机器上一个MySQL服务器运行多个MySQL实例有什么好处?这里我先入为主给大家介绍这样做至少存在两个好处(看完这篇文章后理解会更透彻): (1)减轻服务器链接负担 (2)为不同的用户提供不同的 ...

java强制执行方法_java – 在多台机器上强制执行单一速率限制的好方法是什么？...

java强制执行方法_java – 在多台机器上强制执行单一速率限制的好方法是什么？...相关推荐

最新文章

热门文章