微服务跨数据库联合查询_微服务架构下,解决数据库跨库查询的一些思路
加关注,不迷路!
前言
在服务做微服务改造后,原先单库join查询已经不能满足要求,每个拆分的微服务对应一个数据库实例,而且部署在不同的服务器上,那么解决“跨库查询”就势在必行了。
以笔者实战经历来看,以下几个思路仅供参考:
表字段冗余
想必大家已经很熟悉,几乎每天都会打交道,不用多讲。
需要指出的是冗余字段不能太多,建议控制在2-4个左右。否则会出现数据更新不一致问题,一旦冗余字段有改动,极容易产生脏数据。
解决思路
建立同步机制,必要时采取人工补偿措施。
所以,合理的字段冗余是润滑剂,减少join关联查询,让数据库执行性能更高更快。
二、聚合服务封装查询
聚合服务
简单来说,就是把不同服务的数据统一组装在一个新的服务里做聚合,对外提供统一入口API接口查询。
笔者曾经开发新闻报表查询接口时,需要用到用户,新闻、用户标签、登录记录等数据。但是用户、新闻、登录记录在不同的数据库,而且还不在同一台服务器上。经笔者分析,把代码写在用户微服务或者新闻微服务都不合适,最后只能自己单独写了一个聚合服务来解决跨查询数据问题。
聚合服务的数据组装是以API接口调用来实现,一般不建议直连数据库连表查询。这样做的好处是减少服务间调用次数以及查询库表压力。
在实际的业务开发中,我们经常碰到类似的需求,而聚合服务不失为一种较彻底的服务解耦实现方式。
三、表视图查询
如果涉及到不同数据库表之间的join查询,可以在其中某一数据库的表上建立视图(view)关系,这种方式非常高效,只需要开发一个简单接口对外提供服务就可以了,而且省去聚合服务带来调用、查询、聚合的复杂性。
前提条件
数据库需要部署在同一台服务器上
数据库账户密码必须相同,也就是在同一个schema下
另外表视图查询这种方式,是一种紧耦合的设计方式,不利于程序扩展,除非你很确定将来业务变动不大,可以考虑使用。以笔者经验来看,不适合大规模使用。
四、多数据源查询
这种方式是一种比较技术化的思路,简单来说就是一个微服务配置多个数据库源(DataSource),进行数据源来回切换进行库表查询,以达到获取不同数据的目的。
实现思路
利用DynamicDataSource
利用Spring的AOP动态切换数据源
利用Spring的依赖注入方式管理Bean数据源对象
具体实现方式,网上例子很多很成熟的实现方案。
五、分库分表:使用数据库中间件
Sharding-Shpere
想必做过分库分表的同学对他一定不陌生,其出身来至当当开源项目sharding-jdbc。非常有限的跨库查询解决方案,目前在京东内部已经广泛使用。sharding-jdbc创始人张亮已加入京东,sharding-jdbc还在不停的迭代,目前更名为sharding-shpere,已经入Apache顶级项目,进行孵化,非常看好它
高可用架构图
官网传送门
https://shardingsphere.apache.org/document/current/cn/quick-start/
Mycat
一个彻底开源的,面向企业应用开发的大数据库集群,支持事务、ACID、可以替代MySQL的加强版数据库;一个可以视为MySQL集群的企业级数据库,用来替代昂贵的Oracle集群;一个融合内存缓存技术、NoSQL技术、HDFS大数据的新型SQL Server;结合传统数据库和新型分布式数据仓库的新一代企业级数据库产品;一个新颖的数据库中间件产品。
高可用架构图
Mycat关键特性
遵守Mysql原生协议,跨语言,跨平台,跨数据库的通用中间件代理。
支持单库内部任意join,支持跨库2表join,甚至基于caltlet的多表join。
支持通过全局表,ER关系的分片策略,实现了高效的多表join查询。
从mycat特性来说,其天生就支持分库分表以及跨库查询,具体不多说,有兴趣的同学,可以去官网了解mycat的原理。
干货分享
最近将个人学习笔记整理成册,使用PDF分享。关注我,回复如下代码,即可获得百度盘地址,无套路领取!
•001:《Java并发与高并发解决方案》学习笔记;•002:《深入JVM内核——原理、诊断与优化》学习笔记;•003:《Java面试宝典》•004:《Docker开源书》•005:《Kubernetes开源书》•006:《DDD速成(领域驱动设计速成)》•007:全部•008:加技术群讨论
近期热文
关注我
喜欢就点个"在看"呗^_^
微服务跨数据库联合查询_微服务架构下,解决数据库跨库查询的一些思路相关推荐
- 微服务跨数据库联合查询_微服务架构中如何解决连表查询的问题?
谢邀. 首先我说一个很实际的问题,不是任何公司都需要微服务,或者说,不要上来就搞微服务,我看过北京不少创业公司的项目,这么说吧,估值在2亿美金以下的创业公司,基本上没必要搞什么微服务,总共就二十几口程 ...
- 分布式 java 应用:基础与实践_单集群数据超1000亿,微服务架构下分布式数据库应用实践...
如今,大型企业的应用平台正在向微服务架构进行转型.在微服务架构下,应用程序和数据库等底层平台的关系将会被重构. 作为新一代分布式数据库,其架构与功能特性需要保证在与传统数据库全兼容的基础上,拥抱微服务 ...
- 在ASP.NET Core微服务架构下使用数据库切分和扩展, 并用JMeter进行负载测试
原文链接:https://itnext.io/how-to-scale-an-asp-net-core-microservice-and-sharded-database-load-test-with ...
- 在ASP.NET Core微服务架构下使用数据库切分和扩展
原文链接:https://itnext.io/how-to-use-database-sharding-and-scale-an-asp-net-core-microservice-architect ...
- python数据库模糊查询_原创:Python编写通讯录,支持模糊查询,利用数据库存储...
1.要求 数据库存储通讯录,要求按姓名/电话号码查询,查询条件只有一个输入入口,自动识别输入的是姓名还是号码,允许模糊查询. 2.实现功能 可通过输入指令进行操作. (1)首先输入"add& ...
- tkmybatis 子查询_日均20亿流量:携程机票查询系统的架构升级
携程机票查询系统,日均20亿流量,且要求高吞吐,低延迟的架构设计.于是,提升缓存的效率以及实时计算模块长尾延迟,成为制约机票查询系统性能的关键.本文是携程集团机票业务技术总监宋涛在「云加社区沙龙onl ...
- mybatisplus 操作另一个数据库的数据_实例分析:python操作数据库项目
本文根据一个项目实例,记录分享一下python将数据库的内容提取显示到程序界面的过程及相关设置,探索python操作数据库的用法.主要分享内容:1.显示数据库内容.2.修改数据库内容.3.表格控件指定 ...
- 清空数据库事务日志_通过事务日志增长加快数据库恢复和长期运行的事务
清空数据库事务日志 In my previous article in this series Accelerated Database Recovery; Instant Rollback and ...
- sql 最外层传值给最内层查询_腾讯云高级工程师如何玩转PG查询处理与执行器算法...
作者介绍 孙旭,腾讯云高级工程师.10年数据库内核研发经验,熟悉PostgreSQL.Teradata数据库内核,熟悉数据库的查询优化.执行.事务并发以及存储等子系统:对分布式数据库有深入的研究和研发 ...
最新文章
- Docker学习(一)-----Docker简介与安装
- CALayer 了解与使用
- nginx安装路径,查找配置文件以及如何配置
- (转载)你好,C++(17)0.1*10不等于1.0——4.1.4 关系操作符4.1.5 逻辑操作符
- python写算法太慢_程序运行慢?你怕是写的假 Python
- android studio插入数据表中没有_学Java能拿高薪吗 Java中常见排序算法有哪些
- 3班的第一次模拟面试
- Python外(5)-for-enumerate()-zip()
- SQLSERVER存储过程列名无效的解决方法
- 以行为单位对字符串变量下标为奇数位置上的字符按其ASCii值从小到大的顺序进行排序,排序后的结果仍按行重新存入字符串数组xx中
- 整理好的200多java面试题,可用于机器学习
- 你对jstl了解多少----JSTL标签之函数(慎用)
- [julia]本地离线安装package
- MyBatis集合Spring(四)之使用Spring处理事务
- 大一学科不挂科 速冲方法推荐(高数上+高数下+线代+大物)
- 计算机图形学课本pdf,计算机图形学教材.pdf
- sendip linux发包工具
- 编程及C/C++初学者FAQ
- 1.6 Image Rotation
- 赛门铁克如何用TAA搞定APT?
热门文章
- 《苍炎-羽生结弦》读书摘记
- 相机卡里的照片删除了怎么恢复
- Hermit间谍软件“入侵”Android和iOS,你的手机还安全吗?
- windows重启WSL
- 某加速器无提示过模拟器检测
- 将DIB复制到剪贴板
- Canal 组件简介与 vivo 帐号实践
- 华为网络设备基本配置
- 计算机科学与工程学院彭骜宇,情系义卖,爱暖人心——计算机科学与工程学院开展“雷锋家乡学雷锋”爱心义卖活动...
- oracle 数据库安装选项,Oracle 11g数据库安装及配置