采用Beedup实现数据库实时同步,主库环境Oracle RAC+ASM,内存64G,历史数据19T,日增归档100G,从库单实例环境,内存192G。

以下是项目实施过程遇到的主要问题:

1 历史数据同步

启用Beedup批量复制功能(通过数据库链接主从库直接复制表数据),但在复制BLOB表时由于表记录数太多(6000万)导致执行周期太长而失败。尝试Oracle导入导出方式(IMP/EXP),同样由于记录数太多而失败。

扩展Beedup程序,增加全量数据断点续传功能,在复制BLOB表失败后通过断点分批同步数据最终完成所有表历史数据同步。

2 实时增量同步

在Beedup中指定日志捕获起点后开始从日志文件中解析同步增量数据,但是同步延迟很大,难以满足实时同步要求。

依次对主从服务器内存、网络、IO进行分析,最终确定性能瓶颈在于主库的归档读取性能,Oracle RAC的2个实例归档位置指向不同的ASM磁盘组(+FRADG和+DATADG),而其中一个实例的归档与数据文件共用同一磁盘组(+DATADG),由于业务数据频繁写入,导致该磁盘组的归档读取性能很低。

将2个实例的归档位置合并到同一磁盘组(+FRADG),实现业务数据IO独立于归档IO。

归档位置合并后的日志读取性能大幅提升,原来导入1G数据需要7秒,而调整后不到3秒,虽然该值与测试环境性能(单实例操作系统存储,导入1G日志不到300ms)差距较大,但可以满足每日100G新增日志的同步。

Oracle RAC+ASM 数据库实时同步相关推荐

  1. oracle asm 日志,Oracle+RAC+ASM数据库ora-00257日志归档器错误解决方法

    ERROR: ORA-00257: archiver error. Connect internal only, until freed. (1)SQL> select * from v$log ...

  2. 【Oracle RAC+DG实验】Oracle RAC+ASM+DataGuard配置实验记录+常见问题

    [Oracle RAC+DG实验]Oracle RAC+ASM+DataGuard配置实验记录+常见问题 1.环境规划: ---RAC环境介绍(primary database)            ...

  3. oracle没用过元数据,案例:Oracle RAC asm备份元数据之md_backup和md_restore 好处与

    天萃荷净 Oracle rAC asm备份元数据之md_backup和md_restore好处与坏处 在11g的asm中增加了md_backup和md_restore命令,用来备份和还原asm的元数据 ...

  4. 主流数据库实时同步/实时ETL工具的比较

    主流数据库实时同步/ETL工具的比较

  5. ORACLE RAC ASM磁盘规划

     基于ASM冗余设计架构实现的数据库双活方案,如何规划ASM? ASM使用独特的镜像算法:不镜像磁盘,而是镜像盘区.作为结果,为了在产生故障时提供连续的保护,只需要磁盘组中的空间容量,而不需要预备一个 ...

  6. oracle和mysql数据实时同步_异构数据源的CDC实时同步系统——最终选型实战

    引言: <异构数据源的CDC实时同步系统> 系列第一篇 (已完成) <零编码打造异构数据实时同步系统--异构数据源CDC之2> 系列第二篇(已完成) <零编码打造异构数据 ...

  7. ogg实现Oracle库到Oracle库的数据实时同步

    环境 服务器一 IP地址: 192.168.89.137 Oracle数据库版本 11.2.0.4.0 Oracle数据库实例名 orcl Oracle数据库端口 1521 待同步数据库schema ...

  8. Oracle RAC ASM disk header 备份 恢复 与 重建 示例说明

    一. 准备知识 RAC ASM由于其高度的封装性,使得我们很难知道窥探其内部的原理.ASM如果一旦出现问题,通常都很难处理.即便在有很完备的RMAN备份的情况下,恢复起来都可能需要很长的时间. 而AS ...

  9. 数据库实时同步利器——CDC(变化数据捕获技术)

    在进行数据ETL过程中,我们经常需要通过周期性的定时调度将业务数据按照T+1的方式同步到数据仓库中,进行数据分析处理,最终通过BI报表展示给最终用户.但这种方式实时性较差,用户往往只能看到昨天的数据, ...

最新文章

  1. 文本编辑器实现打开文件、保存文件、文件另存为、新建文件、软件关闭的功能
  2. pythonplotline_带误差条的python绘图线,pythonplotlinewitherrorbar
  3. java jxl label_jxl.write.label
  4. 5W2H | 关于写博客的七点反思
  5. vivo S12 PRO怎么解锁vivoS12解锁平台刷机教程屏幕锁激活手机锁不记得了可以用这个方法教程刷机解锁用的
  6. windows防火墙ntp服务器_ad域windows ntp服务器配置详解
  7. 计算机表格中格式隐藏了怎么办,excel表格第一列被隐藏起来了怎么办
  8. 打开chm手册显示已取消到该网页的导航
  9. 密钥管理系统研究(一)
  10. jQueryEasyU校验邮箱、手机号等
  11. 「运维有小邓」搜索日志数据以作为网络安全情报
  12. [风铃开发系列]IView动态菜单配置
  13. html中word-wrap无效,使用word-wrap来防止文字溢出
  14. css overflow属性及使用方法(场景)
  15. 网站点击热图(Heat Map)
  16. **RL张力称重传感器及自动化中的应用**
  17. Activity的概念
  18. typora中图片转base64
  19. 王佩丰excel课程笔记
  20. 【Kafka】消费者组 Consumer Group(三)

热门文章

  1. 北邮通信原理公开课 杨鸿文老师 课程学习笔记【第十课 带宽】
  2. mysql全备份xtrabackup(innobackupex)方式
  3. 深圳.Net俱乐部2.26活动资源下载
  4. 前端知识树-构建你的知识体系
  5. mysql视图基本操作
  6. 新浪微博注册器 采用httpwebrequest请求
  7. 算法是一个程序员的内功
  8. Qt6与OpenCV4.7教程1----Qt6.4与OpenCV4.7配置
  9. 基于消息的异步松耦合系统
  10. Lingoes-一个很可爱的词典软件