账户系统如何应对高并发、热点账户等问题

互联网金融系统的核心是支付结算，而支付结算的基础又是账户系统。互金账户系统的特点是并发量大、响应快、交易金额大，热点账户问题突出。一个合格的账户系统既要解决上述问题，又必须绝对保证资金安全。作为这家互联网金融公司的支付结算中心，其账户系统也必须具备上述特征。

一、账户体系

1.1 账户结构

支付结算账户体系是客户、用户、账户三层结构，证件号和证件类型唯一确定一个客户，客户号和机构号确定一个用户，一个用户下可开多个不同类型的账户。如图：

1.2 账户属性

账户系统的基础是账户，所有的操作都围绕着账户进行，账户包含以下一些属性：

会计科目：每个账户金额的变动要体现一些会计的属性，以便会计核算。
账户类别：分为个人账户、企业账户、平台类账户。
账户明细：账户的明细是反映账户余额变动的每笔详情，采用复式记账法，包含本对方账号、账户等信息、摘要、借方的发生额及余额等信息。
账户余额：记录账户的实时余额。

1.3 会计科目

账户下挂在最底层的会计科目下，会计科目决定了账户的含义及余额变动方向。会计科目的一些属性如下：

科目类别：资产类、负债类、所有者权益、成本类、损益类等。
科目级别：会计科目的级别，一级科目、二级科目、三级科目等。下级科目归属上级科目。
余额方向：标示余额是在借方还是贷方。
科目的期末余额：每日日切后会汇总底层科目所有下挂账户在上一会计日的余额总和，上级科目汇总下级科目的余额总和。

1.4 科目树

支付结算账户系统采用科目树的概念，每个机构都会绑定一个科目树。科目树的根节点是一级科目，底层的科目下挂账户，结构如下：

二、账户系统架构

支付结算账户系统采用公司自研的分布式微服务框架，对外提供http json接口，内部各服务间采用redis实现的消息队列通讯。

2.1 账户系统功能架构

支付结算账户系统分为接入模块、记账子系统、开户子系统、异步记账模块、查询子系统、定时任务子系统、日终子系统、异步日志模块，下图是账务系统功能模块图：

接入模块：提供报文解析、验签、参数校验、权限认证等公共服务，是账户系统的统一入口。
异步日志模块：异步记录业务系统请求报文。
记账子系统：账户系统的核心模块，处理业务系统的记账请求。
开户子系统：处理业务系统的开户请求。
- 首次开立账户：为个人或企业开立客户、用户及提前配置的默认开通的账户。
- 指定开立账户：个人或企业在首次开立账户后，可按科目号指定开立账户。
查询子系统：提供账户、记账的一些查询功能。
异步记账模块：提供异步记录账户流水的功能。
定时任务子系统：处理失败重试、热点账户等的定时任务。
日终子系统：提供日切以及日终跑批的功能。

2.1.1 记账处理

记账处理是账户系统的核心功能，该功能对性能的要求比较高，高并发下热点账户问题比较突出，资金的正确性也必须保证，并且根据业务不同，记账的分录也是五花八门，支付结算账户系统如何应对这些问题，这里重点介绍下：

账户系统记账采用记账服务的概念，每个记账服务就是一个记账分录的模板，业务系统按照这个模板传入记账金额、账户号或者用户号等信息。
账户系统采用redis分布式锁，防止业务系统重复提交请求。设置记账订单防重表，按照请求单号和机构号对记账请求做幂等性校验。
采用复式记账法，按照会计规则按照借贷记录流水，有借必有贷。
记账处理时，更新账户余额后同步返回结果给业务系统，异步的处理记账流水。同时设置补偿机制，定时重试记账流水处理失败的订单，重试三次失败后报警人工介入。
记账规则处理，每个记账服务可以绑定一些记账规则，账户系统根据记账服务遍历其绑定的规则，顺序处理。

2.1.2 热点账户问题

热点账户问题是账户系统的痛点，也困扰了我们很久，这里着重说下。

-- 充值时的记账分录是:

借方：三方支付待清算账户（+）

贷方：个人余额账户（+）

当大量用户充值时，三方支付的待清算账户就是热点账户，频繁的增加余额。

-- 提现时的记账分录是:

借方：个人余额账户（-）

贷方：三方支付资产账户（-）

当大量用户提现时，三方支付的资产账户就是热点账户，频繁的减少余额。

--业务收服务费的记账分录是:

借方：个人账户（-）

贷方：商户服务费账户（+）

当大量向用户收取服务费时，商户服务费账户就是热点账户，会频繁增加余额。

--业务服务费付款的记账分录是:

借方：商户服务费账户（-）

贷方：个人账户（+）

当大量用服务费余额向用户付款时，商户服务费账户就是热点账户，会频繁减少余额。

记账时，所有涉及的账户余额都要做update更新，高并发情况下，当出现上述类型的热点账户时，由于数据库的行级锁，对同一账户的更新余额操作由并行变成串行，单个请求的响应时间变长，从而拖垮整个记账服务。

支付结算账户系统针对上述问题做了如下处理：

我们把热点账户按照金额变动方向分为加频账户（余额增加频繁）、减频账户（余额扣减频繁）、双频账户（余额增加扣减均频繁）。

加频账户处理

准实时更新余额。先将金额变动插入临时表中，由定时任务按照一定频率汇总发生额，并更新账户余额，而后删除临时记录。当加频账户减钱余额不足时，主动去汇总发生额。这里需要考虑主动汇总发生额和定时任务处理的并发情况，我们在该定时任务执行时设置redis锁，防止并发，主动汇总时会去判断这个redis锁是否存在，如存在证明定时任务正在执行，无需主动汇总，可能是真的余额不足。主动汇总同样会设置redis锁，定时任务同样会判断。

减频账户处理

将减频账户拆分多个子账户，减频子账户设置金额报警，如果某个减频子账户余额不足触发报警，会对该子账户做资金归集，将其他子账户余额归集到该子账户（每个子账户设置可归集金额限制）。如在交易过程中发现该子账户余额不足，转向使用其他子账户记账。由于拆分子账户，余额查询时需要汇总各个子账户余额返回；记录主账户流水需要记账后余额，这里需要异步计算汇总。当减频账户加钱时，需要平均分配入账到不通的子账户。

双频账户处理

将双频账户拆分多个子账户。加钱时，准实时更新余额，先将子账户金额变动插入临时表中，由定时任务按一定频率汇总发生额，将汇总的发生额更新进对应的子账户，并删除金额变动记录；减钱按照之前减频账户的逻辑执行。

2.1.3 记账死锁问题

高并发情况下，当多个账户之前互相转账时，可能会出现死锁问题。

例如：A余额账户 —> B余额账户（线程1）和 B余额账户—>A余额账户（线程2）两个转账请求并发，账户系统对每个转账请求都会更新A、B余额，这两个更新需要在一个事务里，正常流程线程1先更新A，再更新B，线程2先更新B，再更新A，线程1更新完A后会等待B的锁，不提交事务，线程2更新完B后会等待A的锁，不提交事务，这样两个线程互相等待锁，造成死锁。

支付结算账户系统针对这种情况提出了解决办法，对账户号进行排序后再更新余额，这样每个线程都是先更新A再更新B，解决了死锁问题。

2.2 账户系统存储层架构

支付结算账户系统数据库采用Mysql，缓存采用redis。

Mysql数据库采用主从架构，一主二从，主库向从库同步数据。针对一些数据量大的表进行分表，比较有代表性的是账户流水表，既要按账户维度查询，又要按时间维度汇总，所以针对这个特点，冗余了一张表，一张按照账户分表，一张按照日期分表。
Redis采取集群架构，集群中每个点主备的形式。

2.3 账户系统的网络层架构

账户系统各个服务部署在同一机房，其中记账子系统和异步记账模块部署在4个不同的物理机上，其他子系统和模块部署在2个不同物理机上。最前端采用nginx实现负载均衡。