幂等性问题以及处理方法

什么是幂等性？
幂等性：就是用户对于同一操作发起的一次请求或者多次请求的结果是一致的，不会因为多次点击而产生了副作用。举个最简单的例子，那就是支付，用户购买商品后支付，支付扣款成功，但是返回结果的时候网络异常，此时钱已经扣了，用户再次点击按钮，此时会进行第二次扣款，返回结果成功，用户查询余额发现多扣钱了，流水记录也变成了两条。在以前的单应用系统中，我们只需要把数据操作放入事务中即可，发生错误立即回滚，但是再响应客户端的时候也有可能出现网络中断或者异常等等。

在我们编程中常见幂等
1)select查询天然幂等
2)delete删除也是幂等,删除同一个多次效果一样
3)update直接更新某个值的,幂等
4)update更新累加操作的,非幂等
5)insert非幂等操作,每次新增一条

产生原因
由于重复点击或者网络重发 eg:
1)点击提交按钮两次;
2)点击刷新按钮;
3)使用浏览器后退按钮重复之前的操作，导致重复提交表单;
4)使用浏览器历史记录重复提交表单;
5)浏览器重复的HTTP请;
6)nginx重发等情况;
7)分布式RPC的try重发等;

解决方案

方法一、前端使用一些组件防止按钮重复点击

方法二，使用post/Redirect/Get模式
在提交后执行页面重定向，这就是所谓的Post-Redirect-Get (PRG)模式。
简言之，当用户提交了表单后，你去执行一个客户端的重定向，转到提交成功信息页面。
这能避免用户按F5导致的重复提交，而其也不会出现浏览器表单重复提交的警告，也能消除按浏览器前进和后退按导致的同样问题。

方法三，在session中存放一个特殊的标志
在服务器端，生成一个唯一的标识符，将它存入session，同时将它写入表单的隐藏字段中，然后将表单页面发给浏览器，用户录入信息后点击提交，在服务器端，获取表单中隐藏字段的值，与session中的唯一标识符比较，相等说明是首次提交，就处理本次请求，然后将session中的唯一标识符移除；不相等说明是重复提交，就不再处理。

方法四，其他借助使用Header头设置缓存控制头Cache-control等方式
比较复杂不适合移动端APP的应用这里不详解

方法五，从数据库端处理
insert使用唯一索引， update使用乐观锁 version版本法
这种在大数据量和高并发下效率依赖数据库硬件能力,可针对非核心业务

方法六，借助悲观锁
使用select … for update ,这种和 synchronized
锁住先查再insert or update一样,但要避免死锁,效率也较差
针对单体请求并发不大可以推荐使用

方法七、借助本地锁
原理:使用了 ConcurrentHashMap 并发容器 putIfAbsent 方法,和 ScheduledThreadPoolExecutor 定时任务,也可以使用guava cache的机制, gauva中有配有缓存的有效时间也是可以的key的生成 Content-MD5 Content-MD5 是指 Body 的 MD5 值，只有当 Body 非Form表单时才计算MD5，计算方式直接将参数和参数名称统一加密MD5。
MD5在一定范围类认为是唯一的近似唯一当然在低并发的情况下足够了
当然本地锁只适用于单机部署的应用.

①配置注解

import java.lang.annotation.*;@Target(ElementType.METHOD)
@Retention(RetentionPolicy.RUNTIME)
@Documented
public @interface Resubmit {/*** 延时时间 在延时多久后可以再次提交** @return Time unit is one second*/int delaySeconds() default 20;
}

②实例化锁

import com.google.common.cache.Cache;
import com.google.common.cache.CacheBuilder;
import lombok.extern.slf4j.Slf4j;
import org.apache.commons.codec.digest.DigestUtils;import java.util.Objects;
import java.util.concurrent.ConcurrentHashMap;
import java.util.concurrent.ScheduledThreadPoolExecutor;
import java.util.concurrent.ThreadPoolExecutor;
import java.util.concurrent.TimeUnit;/*** @author lijing* 重复提交锁*/
@Slf4j
public final class ResubmitLock {private static final ConcurrentHashMapLOCK_CACHE = new ConcurrentHashMap<>(200);private static final ScheduledThreadPoolExecutor EXECUTOR = new ScheduledThreadPoolExecutor(5, new ThreadPoolExecutor.DiscardPolicy());// private static final CacheCACHES = CacheBuilder.newBuilder()// 最大缓存 100 个// .maximumSize(1000)// 设置写缓存后 5 秒钟过期// .expireAfterWrite(5, TimeUnit.SECONDS)// .build();private ResubmitLock() {}/*** 静态内部类 单例模式** @return*/private static class SingletonInstance {private static final ResubmitLock INSTANCE = new ResubmitLock();}public static ResubmitLock getInstance() {return SingletonInstance.INSTANCE;}public static String handleKey(String param) {return DigestUtils.md5Hex(param == null ? "" : param);}/*** 加锁 putIfAbsent 是原子操作保证线程安全** @param key 对应的key* @param value* @return*/public boolean lock(final String key, Object value) {return Objects.isNull(LOCK_CACHE.putIfAbsent(key, value));}/*** 延时释放锁 用以控制短时间内的重复提交** @param lock 是否需要解锁* @param key 对应的key* @param delaySeconds 延时时间*/public void unLock(final boolean lock, final String key, final int delaySeconds) {if (lock) {EXECUTOR.schedule(() -> {LOCK_CACHE.remove(key);}, delaySeconds, TimeUnit.SECONDS);}}
}

③AOP 切面

import com.alibaba.fastjson.JSONObject;
import com.cn.xxx.common.annotation.Resubmit;
import com.cn.xxx.common.annotation.impl.ResubmitLock;
import com.cn.xxx.common.dto.RequestDTO;
import com.cn.xxx.common.dto.ResponseDTO;
import com.cn.xxx.common.enums.ResponseCode;
import lombok.extern.log4j.Log4j;
import org.aspectj.lang.ProceedingJoinPoint;
import org.aspectj.lang.annotation.Around;
import org.aspectj.lang.annotation.Aspect;
import org.aspectj.lang.reflect.MethodSignature;
import org.springframework.stereotype.Component;import java.lang.reflect.Method;/*** @ClassName RequestDataAspect* @Description 数据重复提交校验* @Author lijing* @Date 2019/05/16 17:05**/
@Log4j
@Aspect
@Component
public class ResubmitDataAspect {private final static String DATA = "data";private final static Object PRESENT = new Object();@Around("@annotation(com.cn.xxx.common.annotation.Resubmit)")public Object handleResubmit(ProceedingJoinPoint joinPoint) throws Throwable {Method method = ((MethodSignature) joinPoint.getSignature()).getMethod();//获取注解信息Resubmit annotation = method.getAnnotation(Resubmit.class);int delaySeconds = annotation.delaySeconds();Object[] pointArgs = joinPoint.getArgs();String key = "";//获取第一个参数Object firstParam = pointArgs[0];if (firstParam instanceof RequestDTO) {//解析参数JSONObject requestDTO = JSONObject.parseObject(firstParam.toString());JSONObject data = JSONObject.parseObject(requestDTO.getString(DATA));if (data != null) {StringBuffer sb = new StringBuffer();data.forEach((k, v) -> {sb.append(v);});//生成加密参数 使用了content_MD5的加密方式key = ResubmitLock.handleKey(sb.toString());}}//执行锁boolean lock = false;try {//设置解锁keylock = ResubmitLock.getInstance().lock(key, PRESENT);if (lock) {//放行return joinPoint.proceed();} else {//响应重复提交异常return new ResponseDTO<>(ResponseCode.REPEAT_SUBMIT_OPERATION_EXCEPTION);}} finally {//设置解锁key和解锁时间ResubmitLock.getInstance().unLock(lock, key, delaySeconds);}}
}

④注解使用案例

@ApiOperation(value = "保存我的帖子接口", notes = "保存我的帖子接口")@PostMapping("/posts/save")@Resubmit(delaySeconds = 10)public ResponseDTOsaveBbsPosts(@RequestBody @Validated RequestDTOrequestDto) {return bbsPostsBizService.saveBbsPosts(requestDto);}

以上就是本地锁的方式进行的幂等提交使用了Content-MD5 进行加密只要参数不变,参数加密密值不变,key存在就阻止提交
当然也可以使用一些其他签名校验在某一次提交时先生成固定签名提交到后端根据后端解析统一的签名作为每次提交的验证token 去缓存中处理即可.

方法八，借助分布式redis锁
在 pom.xml 中添加上 starter-web、starter-aop、starter-data-redis 的依赖即可

<dependencies><dependency><groupId>org.springframework.bootgroupId><artifactId>spring-boot-starter-webartifactId>dependency><dependency><groupId>org.springframework.bootgroupId><artifactId>spring-boot-starter-aopartifactId>dependency><dependency><groupId>org.springframework.bootgroupId><artifactId>spring-boot-starter-data-redisartifactId>dependency>
dependencies>

属性配置在 application.properites 资源文件中添加 redis 相关的配置项

spring.redis.host=localhost
spring.redis.port=6379
spring.redis.password=123456

主要实现方式: 熟悉 Redis 的朋友都知道它是线程安全的，我们利用它的特性可以很轻松的实现一个分布式锁，如 opsForValue().setIfAbsent(key,value)它的作用就是如果缓存中没有当前 Key 则进行缓存同时返回 true 反之亦然；当缓存后给 key 在设置个过期时间，防止因为系统崩溃而导致锁迟迟不释放形成死锁；那么我们是不是可以这样认为当返回 true 我们认为它获取到锁了，在锁未释放的时候我们进行异常的抛出…

package com.battcn.interceptor;import com.battcn.annotation.CacheLock;
import com.battcn.utils.RedisLockHelper;
import org.aspectj.lang.ProceedingJoinPoint;
import org.aspectj.lang.annotation.Around;
import org.aspectj.lang.annotation.Aspect;
import org.aspectj.lang.reflect.MethodSignature;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.context.annotation.Configuration;
import org.springframework.util.StringUtils;import java.lang.reflect.Method;
import java.util.UUID;/*** redis 方案** @author Levin* @since 2018/6/12 0012*/
@Aspect
@Configuration
public class LockMethodInterceptor {@Autowiredpublic LockMethodInterceptor(RedisLockHelper redisLockHelper, CacheKeyGenerator cacheKeyGenerator) {this.redisLockHelper = redisLockHelper;this.cacheKeyGenerator = cacheKeyGenerator;}private final RedisLockHelper redisLockHelper;private final CacheKeyGenerator cacheKeyGenerator;@Around("execution(public * *(..)) && @annotation(com.battcn.annotation.CacheLock)")public Object interceptor(ProceedingJoinPoint pjp) {MethodSignature signature = (MethodSignature) pjp.getSignature();Method method = signature.getMethod();CacheLock lock = method.getAnnotation(CacheLock.class);if (StringUtils.isEmpty(lock.prefix())) {throw new RuntimeException("lock key don't null...");}final String lockKey = cacheKeyGenerator.getLockKey(pjp);String value = UUID.randomUUID().toString();try {// 假设上锁成功，但是设置过期时间失效，以后拿到的都是 falsefinal boolean success = redisLockHelper.lock(lockKey, value, lock.expire(), lock.timeUnit());if (!success) {throw new RuntimeException("重复提交");}try {return pjp.proceed();} catch (Throwable throwable) {throw new RuntimeException("系统异常");}} finally {// TODO 如果演示的话需要注释该代码;实际应该放开redisLockHelper.unlock(lockKey, value);}}
}

RedisLockHelper 通过封装成 API 方式调用，灵活度更加高

package com.battcn.utils;import org.springframework.boot.autoconfigure.AutoConfigureAfter;
import org.springframework.boot.autoconfigure.data.redis.RedisAutoConfiguration;
import org.springframework.context.annotation.Configuration;
import org.springframework.data.redis.connection.RedisStringCommands;
import org.springframework.data.redis.core.RedisCallback;
import org.springframework.data.redis.core.StringRedisTemplate;
import org.springframework.data.redis.core.types.Expiration;
import org.springframework.util.StringUtils;import java.util.concurrent.Executors;
import java.util.concurrent.ScheduledExecutorService;
import java.util.concurrent.TimeUnit;
import java.util.regex.Pattern;/*** 需要定义成 Bean** @author Levin* @since 2018/6/15 0015*/
@Configuration
@AutoConfigureAfter(RedisAutoConfiguration.class)
public class RedisLockHelper {private static final String DELIMITER = "|";/*** 如果要求比较高可以通过注入的方式分配*/private static final ScheduledExecutorService EXECUTOR_SERVICE = Executors.newScheduledThreadPool(10);private final StringRedisTemplate stringRedisTemplate;public RedisLockHelper(StringRedisTemplate stringRedisTemplate) {this.stringRedisTemplate = stringRedisTemplate;}/*** 获取锁（存在死锁风险）** @param lockKey lockKey* @param value value* @param time 超时时间* @param unit 过期单位* @return true or false*/public boolean tryLock(final String lockKey, final String value, final long time, final TimeUnit unit) {return stringRedisTemplate.execute((RedisCallback) connection -> connection.set(lockKey.getBytes(), value.getBytes(), Expiration.from(time, unit), RedisStringCommands.SetOption.SET_IF_ABSENT));}/*** 获取锁** @param lockKey lockKey* @param uuid UUID* @param timeout 超时时间* @param unit 过期单位* @return true or false*/public boolean lock(String lockKey, final String uuid, long timeout, final TimeUnit unit) {final long milliseconds = Expiration.from(timeout, unit).getExpirationTimeInMilliseconds();boolean success = stringRedisTemplate.opsForValue().setIfAbsent(lockKey, (System.currentTimeMillis() + milliseconds) + DELIMITER + uuid);if (success) {stringRedisTemplate.expire(lockKey, timeout, TimeUnit.SECONDS);} else {String oldVal = stringRedisTemplate.opsForValue().getAndSet(lockKey, (System.currentTimeMillis() + milliseconds) + DELIMITER + uuid);final String[] oldValues = oldVal.split(Pattern.quote(DELIMITER));if (Long.parseLong(oldValues[0]) + 1 <= System.currentTimeMillis()) {return true;}}return success;}/*** @see Redis Documentation: SET*/public void unlock(String lockKey, String value) {unlock(lockKey, value, 0, TimeUnit.MILLISECONDS);}/*** 延迟unlock** @param lockKey key* @param uuid client(最好是唯一键的)* @param delayTime 延迟时间* @param unit 时间单位*/public void unlock(final String lockKey, final String uuid, long delayTime, TimeUnit unit) {if (StringUtils.isEmpty(lockKey)) {return;}if (delayTime <= 0) {doUnlock(lockKey, uuid);} else {EXECUTOR_SERVICE.schedule(() -> doUnlock(lockKey, uuid), delayTime, unit);}}/*** @param lockKey key* @param uuid client(最好是唯一键的)*/private void doUnlock(final String lockKey, final String uuid) {String val = stringRedisTemplate.opsForValue().get(lockKey);final String[] values = val.split(Pattern.quote(DELIMITER));if (values.length <= 0) {return;}if (uuid.equals(values[1])) {stringRedisTemplate.delete(lockKey);}}}

此文摘抄自公众号：互联网架构师

幂等性问题以及处理方法相关推荐

SpringBoot里实现幂等性有几种方法？看完这篇就不会再踩坑了
来源:mydlq.club/article/94/ 一.什么是幂等性二.什么是接口幂等性三.为什么需要实现幂等性四.引入幂等性后对系统的影响五.Restful API 接口的幂等性六.如何实 ...
幂等性问题和解决方法
在实际的开发项目中,一个对外暴露的接口往往会面临很多次请求.这就需要考虑到一个幂等性问题. 幂等性幂等性的概念是:任意多次执行所产生的影响均与一次执行的影响相同,即无论你请求了多少次,对数据库的影响 ...
http的安全方法和幂等性
最近在研究http,看到http的安全方法和幂等性部分,不太明白,尤其是"post方法是非幂等的"不理解,进过查资料,找到以下两篇有价值的文章,特转过来! 理解HTTP幂等性转自 ...
Spring Boot 实现接口幂等性的 4 种方案！还有谁不会？
点击关注公众号,Java干货及时送达作者:超级小豆丁链接:mydlq.club/article/94 一.什么是幂等性幂等是一个数学与计算机学概念,在数学中某一元运算为幂等时,其作用在任一元素两 ...
SpringBoot 接口幂等性的实现方案
点击上方蓝色"方志朋",选择"设为星标" 回复"666"获取独家整理的学习资料! 作者:超级小豆丁 http://www.mydlq.clu ...
Springboot + redis + 注解 + 拦截器来实现接口幂等性校验
点击上方"方志朋",选择"设为星标" 回复"666"获取新整理的面试文章作者:wangzaiplus www.jianshu.com/p/ ...
springboot + redis + 注解 + 拦截器实现接口幂等性校验
点击上方"方志朋",选择"设为星标" 做积极的人,而不是积极废人来源:https://www.jianshu.com/p/6189275403ed 一.概念 ...
如何理解 RESTful 的幂等性
来源:http://blog.720ui.com/2016/restful_idempotent/ 理解RESTful的幂等性,并且设计符合幂等规范的高质量RESTful API. 怎么理解幂等性 H ...
一口气说出四种幂等性解决方案，面试官露出了姨母笑~
什么是幂等性? 幂等是一个数学与计算机学概念,在数学中某一元运算为幂等时,其作用在任一元素两次后会和其作用一次的结果相同. " 在计算机中编程中,一个幂等操作的特点是其任意多次执行所产生的影 ...

幂等性问题以及处理方法

幂等性问题以及处理方法相关推荐

最新文章

热门文章