本发明涉及嵌入式软件中间件,具体涉及一种基于消息队列的高并发抢单功能实现方法。

背景技术:

中间件是一种独立的系统软件或服务程序,分布式应用系统借助这种软件在不同的技术之间共享资源,管理计算资源和网络通讯。它在计算机系统中是一个关键软件,它能实现应用的互连和互操作性,能保证系统的安全、可靠、高效的运行。中间件位于用户应用和操作系统及网络软件之间,它为应用提供了公用的通信手段,并且独立于网络和操作系统。中间件为开发者提供了公用于所有环境的应用程序接口,当应用程序中嵌入其函数调用,它便可利用其运行的特定操作系统和网络环境的功能,为应用执行通信功能。

RocketMQ是一款分布式、队列模型的消息中间件,具有以下特点:

(1)能够保证严格的消息顺序;

(2)提供丰富的消息拉取模式;

(3)高效的订阅者水平扩展能力;

(4)实时的消息订阅机制;

(5)亿级消息堆积能力;

MongoDB是一个基于分布式文件存储的数据库,由C++语言编写,旨在为WEB应用提供可扩展的高性能数据存储解决方案。具备高性能、易部署、易使用等特点。

主要功能特性有:

(1)面向集合存储,易存储对象类型的数据;

(2)模式自由;

(3)支持动态查询;

(4)支持完全索引,包含内部对象;

(5)支持查询;

(6)支持复制和故障恢复;

(7)使用高效的二进制数据存储,包括大型对象(如视频等);

(8)自动处理碎片,以支持云计算层次的扩展性;

(9)支持RUBY,PYTHON,JAVA,C++,PHP等多种语言;

(10)文件存储格式为BSON(一种JSON的扩展);

(11)可通过网络访问;

如何有机结合消息队列中间件及高速内存数据库实现高并发抢单功能是嵌入式软件领域当前一项研究热点问题。

技术实现要素:

本发明所要解决的技术问题是:提出一种基于消息队列的高并发抢单功能实现方法,基于消息队列的特性,结合高速内存数据库实现高可靠、高并发、易维护、分布式的抢单功能。

本发明解决其技术问题所采用的技术方案是:

作为一种实施例,本发明的基于消息队列的高并发抢单功能的实现方法,包括加入抢单方法,所述加入抢单方法包括:

为需要参加抢单的业务划分不同的类型,并设置对应的不同的优先级抢单队列;

将需要参加抢单的业务根据其类型加入对应的优先级抢单队列中;

如果加入成功,则保存入列记录,如果加入失败,则记录失败信息并保存到数据库。

作为进一步优化,所述抢单队列采用先进先出机制。

作为进一步优化,通过设置多个Topic来设置不同的优先级抢单队列。

作为进一步优化,所述抢单业务的类型包括:预处理抢单、要素纠偏抢单、全图纠偏抢单、规则检查抢单、模拟记账抢单、复核抢单。

作为进一步优化,所述保存入列记录的方式为:采用异步刷盘方式结合内存数据库,记录已加入队列的抢单业务,若发生程序中断、服务器宕机事件,在重启应用后自动从内存数据库中读取未消费的信息,自动加入队列。

作为进一步优化,通过入列失败信息表来记录抢单业务加入失败信息,对于第一次写入失败信息表的抢单业务,通过定时程序在定时时间到来时,再次将该抢单业务加入到队列中,若仍然加入失败,则通知人工干预。

作为另一种实施例,本发明的基于消息队列的高并发抢单功能的实现方法,包括撤销抢单方法,所述撤销抢单方法包括:

通过创建撤销记录表来记录需要撤销的业务单,在进行抢单处理时,从抢单队列中取出业务单,若该取出的业务单在撤销记录表中,则直接丢弃该业务单,从而达到撤销该业务单的目的,若撤销业务单失败,则记录撤销业务单失败信息,并保存到数据库。

作为进一步优化,对于第一次保存的撤销业务单失败信息,通过定时程序在定时时间到来时,再次对业务单进行撤销,若仍然撤销业务单失败,则通知人工干预。

作为第三种实施例,本发明的基于消息队列的高并发抢单功能的实现方法,包括抢单方法,所述抢单方法包括:

采用多消费端的并发抢单方式,从抢单列表中取出业务单后,及时更新消费进度,然后查询该业务单是否存在于撤销记录表中,若存在,则直接丢弃该业务单,然后从抢单列表中取出下一个业务单;若不存在于撤销记录表中,则继续查询该业务单对应的消费记录,若已存在对应的消费记录,则丢弃该业务单,若不存在对应的消费记录,则在对业务单进行处理后在消费记录表中保存对应的消费记录。

作为进一步优化,该方法还包括:在对业务单进行处理时,若出现抢单异常状况,则通过抢单异常信息表记录这一状况,通过定时程序在定时时间到来时,再次对该业务单进行处理,若仍然异常,则通知人工干预。

本发明的有益效果是:

基于消息队列(Rocketmq)的特性,结合高速内存数据库(Mongodb)实现高可靠、高并发、易维护、分布式的抢单功能:

1、加入抢单方法利用消息队列特性和高速内存数据库解决无序问题、解决优先级问题、解决多类型问题、解决可靠性问题以及解决加入失败问题;

2、撤销抢单方法利用内存数据库实现消息队列删除功能;

3、抢单方法利用消息队列特性和高速内存数据库解决高并发下重复抢单问题、解决抢单队列消息重复时重复抢单问题、解决抢单异常问题。

具体实施方式

本发明旨在提出一种基于消息队列的高并发抢单功能实现方法,基于消息队列的特性,结合高速内存数据库实现高可靠、高并发、易维护、分布式的抢单功能。

在实现高并发抢单功能之前,需要进行以下工作:

1、安装消息队列(Rocketmq)服务,包括nameserver服务和mqbroker服务,安装完成后修改相关配置,调整端口等信息;安装内存数据库(Mongodb)并修改相关参数,创建库名为cscbase的数据库。

2、创建入列失败信息表(queue_fail_info)、入列记录表(queue_snatch_info)、消费记录表(queue_spending_info)、撤销记录表(queue_cancel_info)和抢单异常信息表(csc_message_info);

3、搭建java环境,分别开发加入抢单方法流程、撤销抢单方法流程、抢单方法流程的功能代码。

下面具体阐释本发明中的基于消息队列的高并发抢单功能实现:

一、加入抢单方法,即将需要参与抢单的业务加入到抢单队列的实现方法,其包括:

为需要参加抢单的业务划分不同的类型,并设置对应的不同的优先级抢单队列;

将需要参加抢单的业务根据其类型加入对应的优先级抢单队列中;

如果加入成功,则保存入列记录,如果加入失败,则记录失败信息并保存到数据库。

通过本方法可以解决如下几个问题:

(1)解决无序问题:消息队列(Rocketmq)为采用先进先出(FIFO)机制可以严格的保证消息有序。应用中调用加入抢单方法时有序,则可确保抢单时有序。

(2)解决优先级问题:抢单存在优先级问题,如优先级高的业务先处理。Topic是消息中间件里一个重要的概念,每一个Topic代表了一类消息,有了多个Topic,就可以对消息进行归类与隔离。因此利用Topic的这一特性,将不同优先级的业务抢单放入不同的Topic中,完美的解决了优先级问题。

(3)解决多类型问题:为减少程序复杂度及开发工作量,我们将多类型抢单业务(如预处理抢单、要素纠偏抢单、全图纠偏抢单、规则检查抢单、模拟记账抢单、复核抢单等)共用抢单程序,利用消息队列Topic和Tag进行归类和隔离。

(4)解决可靠性问题:程序中断,服务器宕机等突发状况经常使已加入抢单池数据丢失,造成不可逆的灾难。消息队列(Rocketmq)所有发往broker的消息,有同步刷盘和异步刷盘机制。同步刷盘时,消息写入物理文件才会返回成功,因此非常可靠,但因为要写入物理文件,效率稍受影响;异步刷盘时,消息写入内存即返回成功,内存数据定时异步写入物理文件,此方式效率高,但存在服务器宕机后数据丢失风险。本发明采用异步刷盘方式,并结合内存数据库(Mongodb)技术,记录所有已加入队列的抢单业务。程序中断,服务器宕机后,重启应用自动从内存数据库(Mongodb)中读取未消费的消息自动重新加入队列。

(5)解决加入失败问题:加入抢单队列时可能出现不可控异常,造成加入抢单队列失败,从而引起抢单丢失问题。本发明设计独立的入列失败信息表,一旦发生加入抢单异常,则写入到此信息表中,定时程序重复执行指定次数后仍无法加入,则通知人工干预。

二、撤销抢单方法,即对于已经加入抢单队列的业务由于业务需要又从抢单队列中删除的方法,其包括:通过创建撤销记录表来记录需要撤销的业务单,在进行抢单处理时,从抢单队列中取出业务单,若该取出的业务单在撤销记录表中,则直接丢弃该业务单,从而达到撤销该业务单的目的,若撤销业务单失败,则记录撤销业务单失败信息,并保存到数据库。

由于消息队列(Rocketmq)不能指定删除队列中的消息,因此本方法另辟蹊径,利用内存数据库(Mongodb)保存撤销记录,抢单时从队列中取出抢单消息,若在撤销记录中,则不处理直接丢弃,从而达到删除的目的,若撤销业务单失败,则记录撤销业务单失败信息,并保存到数据库,对于第一次保存的撤销业务单失败信息,通过定时程序在定时时间到来时,再次对业务单进行撤销,若仍然撤销业务单失败,则通知人工干预。

三、抢单方法,即抢单时从抢单池中高效、稳定、准确取出业务信息的方法,其包括:采用多消费端的并发抢单方式,从抢单列表中取出业务单后,及时更新消费进度,然后查询该业务单是否存在于撤销记录表中,若存在,则直接丢弃该业务单,然后从抢单列表中取出下一个业务单;若不存在于撤销记录表中,则继续查询该业务单对应的消费记录,若已存在对应的消费记录,则丢弃该业务单,若不存在对应的消费记录,则在对业务单进行处理后在消费记录表中保存对应的消费记录。

通过本方法可以解决如下几个问题:

(1)解决高并发下重复抢单问题:高并发抢单时,同一条业务信息会因为并发操作造成来不及修改抢单标志,从而被重复抢单。本方法通过及时更新消费进度并结合Java线程安全很好的解决了这一难题;为避免影响性能,本方法采用多消费端的方式进行抢单,大大提高抢单并发性。

(2)解决抢单队列消息重复时重复抢单问题:由于业务或者程序原因,会导致部分业务信息重复加入到抢单队列,如果不处理则会出现被抢多次的情况。本方法通过内存数据库保存消费记录完美解决这一问题。同时,内存数据库高性能和分布式也为抢单方法的高性能奠定坚实基础。

(3)解决抢单异常问题:抢单时可能出现不可控异常,造成队列读取成功但业务处理失败,从而引起数据一致性问题。本发明设计独立的抢单异常信息表,一旦发生抢单异常,则写入到此信息表中,定时程序重新执行处理程序,若仍无法正常处理,则人工通知干预。

java抢单功能_基于消息队列的高并发抢单功能实现方法与流程相关推荐

  1. 消息队列,高并发的救火员

    文章目录 一.前言 二.消息队列三功能 2.1 异步通信 2.2 服务解耦 2.3 流量控制 三.消息队列的两种模型 3.1 队列模型 3.2 发布/订阅模型 3.3 小结 四.消息队列的三个独有设置 ...

  2. 消息队列处理高并发【转】

    消息队列处理高并发 2017年11月08日 08:55:48 阅读数:2643 用mq来将耗时比较长或者耗费资源的请求排队,异步处理,减轻服务器压力增加稳定性. 如果是高并发的实时请求,我个人觉得不适 ...

  3. java mq 积压_解决消息队列的数据积压只需这三招

    点击上方 "Java架构师社区"关注我们,设为星标 回复"架构师"获取资源 1 概述 最近生产环境的消息通知队列发生了大量的数据积压问题,从而影响到整个平台商户 ...

  4. 基于消息队列的UDP并发服务器v1

    UDP是无状态的,无法用TCP一样的并发服务器.我们可以用消息队列的方式模拟下. 首先,我们看消息队列节点 typedef struct msg_buf {int sockfd;struct sock ...

  5. php 微信分享功能_基于thinkPHP实现的微信自定义分享功能

    这篇文章主要介绍了基于thinkPHP实现的微信自定义分享功能,结合实例形式分析了thinkPHP调用微信接口实现自定义分享功能的相关操作技巧,需要的朋友可以参考下 本文实例讲述了基于thinkPHP ...

  6. C10k破局(一)——线程池和消息队列实现高并发服务器

    一.C10k的由来 互联网的基础就是网络通信,早期的互联网可以说是一个小群体的集合.互联网还不够普及,用户也不多,一台服务器同时在线100个用户估计在当时已经算是大型应用了,所以并不存在什么 C10K ...

  7. asp.net c# 通过消息队列处理高并发请求(以抢小米手机为例)

    网站面对高并发的情况下,除了增加硬件, 优化程序提高以响应速度外,还可以通过并行改串行的思路来解决.这种思想常见的实践方式就是数据库锁和消息队列的方式.这种方式的缺点是需要排队,响应速度慢,优点是节省 ...

  8. PHP中利用redis实现消息队列处理高并发请求思路详解

    在电商活动中,常常会出现高并发的情况,例如很多人同时点击购买按钮,以至于购买人数超出了库存量,这是一种非常不理想的状况,因此,我们在PHP开发中就会引入消息队列来解决这种高并发的问题. 当用户点击按钮 ...

  9. 大数据催生智慧园区_基于人工智能的智慧园区异构设备统一接入方法与流程

    [技术领域] 本发明涉及智慧园区建设技术领域,尤其涉及基于人工智能的智慧园区异构设备统一接入方法. 背景技术: 智慧园区是一种以互联网.物联网.云计算.大数据等先进信息技术为支撑,在信息服务等各个环节 ...

最新文章

  1. suse11 oracle11g 安装
  2. BB陆逊高达(3Dmax)
  3. Server2012Web方式修改用户名密码
  4. 一次简单易懂的多态重构实践,让你理解条件逻辑
  5. [中英对照]The sysfs Filesystem | sysfs文件系统
  6. 摩拜回应裁员传闻:属正常业务调整 部分岗位仍在招聘
  7. 浏览器的加载顺序与页面性能优化
  8. 使用Maven下载jar包
  9. php w3cschool 手册,w3cschool菜鸟教程离线版chm手册正式发布
  10. 如何提升软件开发效能?企业级业务架构思考与实践
  11. 内网渗透系列:内网隧道之DNS隧道
  12. Java 枚举类使用实践
  13. 浅谈严格控制普通高等学校招生规模
  14. 关于 用git clone 命令时报错RPC failed; curl 56 Recv failure....’ 的解决办法
  15. 怎样快速开发属于自己的微信小程序?
  16. Python可视化基础----从0学会matplotlib折线图,条形图,散点图
  17. python程序中每条语句以分号结尾,在Python程序中,每条语句末尾必须添加分号。...
  18. java递归分苹果_递归应用示例(放苹果)[较难 选听]
  19. stl库的使用——队列queue和优先队列和优先队列小根堆(全家桶哎)
  20. H5新特性有哪些?怎么理解语义化

热门文章

  1. iOS获取某个日期后n个月的日期
  2. 腾讯云安全组规则导出
  3. WINCE应用的UI实现方案
  4. Linux kernel之SMP初始化
  5. mysql数据排序指令_MySQL 排序 | 菜鸟教程
  6. NILMTK——因子隐马尔可夫之隐马尔可夫
  7. 智慧交通day01-算法库03:cv.dnn
  8. beautifulsoup获取属性_Python爬虫常用模块:BeautifulSoup
  9. ad19pcb设置恢复默认_条码打印机-斑马产品常用恢复出厂设置
  10. 四、MySQL分页查询 + 子查询复习 学习笔记 (复习连接查询相关内容 详解)