[文章作者:孙立 链接:http://www.cnblogs.com/sunli/ 更新时间:2010-12-14]

我在12月8日荣幸地作为Velocity大会的的演讲者分享了《移动互联网内容平台的架构和性能优化》,同样非常荣幸地在12月12日作为演讲者在iData Forum 2010——淘宝组织的数据库大会上分享了《NoSQL研发之路》。

中国互联网数据库技术论坛(iData Forum 2010)是由淘宝DBA团队发起的,计划每年举行一次的国内数据库大会。这次是12月12日在北京温特莱酒店举行。这次会议的详细议程在这里。

会议现场人员爆满,大家的热情都很高。上午是淘宝的赵林(sina微博@丹臣)分享的《淘宝数据库架构演进历程》的一个专场,会场上座无虚席。不时有人打断提出问题,气氛非常活跃。

淘宝的数据库架构经历了:

  1. 普通的LAMP架构。
             所有的数据都在一起,可以方便的通过关联查询快速开发产品应用。借用@丹臣 的话“开发一个功能,只要一会儿”。
  2. Oracle+小型机。
            由于淘宝业务的快速发展,和对数据的高可靠性和安全的渴求,淘宝开始把数据库迁移到Oracle 上面。由于同时还要保证性能的需要,选择了小型机。
  3. 分布式Mysql数据的架构。
           淘宝业务的继续快速发展,使基于小型机+Oracle的架构已经不能满足淘宝业务的性能需求,成本也变得非常的高。基于淘宝业务都是读多写少的情况下,淘宝开始根据业务对数据进行分片,分库分表的处理,然后开发数据库中间件层(TDDL)来屏蔽底层数据库分库分表带来的开发复杂性。同时为了降低成本,开始大规划的使用mysql,mysql主要用作Oracle的从库(自主研发的基于应用的异构复制),实现读写分离。

淘宝的核心业务写库仍然是Oracle,但是读库是Mysql集群。非核心和不重要的业务全部迁移到Mysql集群。同时@丹臣也分享了如何更加有效的做数据库的分片,如何通过技术降低数据迁移的风险等等。

在淘宝技术迁移的路线图上,我们可以看到淘宝整个技术团队的技术实力的提升,也看到了淘宝DBA团队的成长经历。同时,也印证了一个观点“技术架构是为业务需求服务的,也是为压缩成本服务的”。淘宝的每次技术架构的变迁,都是在考虑业务需求的变化,成本的压缩。同时也在迁移过程的风险控制上做了很多的考量。

下午的主题分了两个会场,一个主题大概是跟数据库运维相关,另外一个是跟数据库架构相关。我参加了数据库架构专场。

第一场是来自阿里巴巴的张瑞(twitter@hellodba)分享的《数据库性能模型与容量规划》。主要分享了如何来测试和量化一个机器,系统,数据库在性能上的一个容量。只有对性能量化了,才能有准确的容量规划,而不是靠个人经验。阿里巴巴设计了一套测试的模型,还开发了一个系统,开发人员可以测试sql语句经过系统模型计算出来的响应时间。同时也提出了重要的一点,数据库优化的中心是降低响应时间。还有数据库的性能可能出现拐点,可能一直好好的,某一天突然变得很差。

接下来是来自凤凰网的孙立,也就是我(sina微博@sunli1223_孙立)分享的《NoSQL研发之路》。我主要介绍了NoSQL的其中一种ttserver的优点和一些缺点,以及我们在ttserver不能满足我们需要的时候,如何去开发了一套适合我们自己业务需求的NOSQL(INetDB)。我也提出了一个个人觉得非常有意义的观点“不要盲目对比各种NoSQL的性能来选择NoSQL”,你应该根据你的业务数据的结构,读写分布的比例,热点分布来选择和测试。并且最好能理解NoSQL内部的存储模型,对你的选择同样有帮助。

最后一场是来自淘宝的曾宪杰(sina微博@见习神仙_华黎)分享的《淘宝网淘宝分布式数据层的前世今生》。主要分享了淘宝整个数据库中间件的发展历程。其实更多的还是业务发展来推动中间件的发展。中间件承担了数据库分片,Mysql数据库的复制,异构复制的透明化,简化开发人员的工作。淘宝的数据库中间层的复制由解析SQL语句到解析bin-log发展,由嵌入到应用层的一个jar包(client->db)到中间服务层(client->server->db)发展。

另外一个会场的关于mysql运维的分享据说也非常精彩,有兴趣的朋友可以关注官方网站,随时会有ppt和视频分享出来。

总的的来说,这次淘宝和演讲嘉宾的分享都是非常实在的,让参加这次会议的朋友也不虚此行了,而且现场还有提问,回答问题,举手就有书和奖品赠送的活动,真是太给力了。需要详细资料的可以关注官方网站idata-forum.org

注:本文发表在:infoq中文站http://www.infoq.com/cn/news/2010/12/idataforum

iDataForum2010数据库技术论坛总结相关推荐

  1. 分布式数据库技术论坛回顾

    2019年6月29日,杭州天气炎热,智汇中心11楼的分布式数据库技术论坛也同样热火朝天. 会议于2019年06月29号在杭州市滨江区智汇中心的11楼准时召开,与会的相关人员积极参与,一起聆听了来自Pl ...

  2. 新一代数据库技术论坛-3306π社区广州站

    江南目尽飞鸿远, 隐约罗浮海外山. 曾记盈盈秋水阔, 好花开满荔枝湾. 活动时间地点 活动主题: 新一代数据库技术架构论坛 互动时间:2021-05-22 08:50-18:00 活动地点:广州天河区 ...

  3. cv/dl/cl领域的实验室官网/牛人主页/技术论坛/比赛数据库/好玩的东西

    #技术论坛 1/mit的关于关于机器人的技术review https://www.technologyreview.com/c/robotics/ 2/valse视觉与学习青年学者讨论会 http:/ ...

  4. 闪存技术论坛即将召开 产业链领军企业齐聚谈变革

    在引领大数据连接.传送以及存储,提供创新半导体及软件解决方案的PMC公司(纳斯达克代码:PMCS)主导下, "闪存2.0加速数据中心存储变革"技术论坛即将于12月3日下午,在北京文 ...

  5. 腾讯TDSQL提出三个“数据库之问”,数据库技术未来重点在哪?

    李海翔,网名"那海蓝蓝",腾讯金融云数据库技术专家.中国人民大学信息学院工程硕士企业导师.著有<数据库事务处理的艺术:事务管理和并发访问控制>.<数据库查询优化器 ...

  6. java幂等性的控制(技术论坛上整理成文)

    转载自 https://blog.csdn.net/mine_song/article/details/70992385 本文是从技术论坛上大家一人一句没有条理的讲解,我整理一下发到CSDN上,希望对 ...

  7. 顶级数据库行会Percona阿里全面解析下一代云数据库技术

    摘要: 几年前,数据库管理系统的企业市场似乎还如同铜墙铁壁,除了老牌厂商外,其他厂商休想打进来. 随着移动互联.物联网技术的发展,多终端应用的时代悄然而至.结构化与非结构化数据的爆发,推动人类社会进入 ...

  8. 视频PPT互动问答丨数据库技术前沿的创新与实践专题

    2021年11月12日,以"数据库技术前沿的创新与实践"为主题的『2021数据技术嘉年华·ON LINE』第三期活动已经圆满结束啦!现在给大家安排上干货满满的PPT资源放送及视频回 ...

  9. 专家论道,把脉数据库技术发展新方向

    想知道国内数据库技术发展的新方向? 国产数据库哪些方面取得了技术新成就? 想向专家提出你的不解和疑问吗? 那么,这是你不得不看的一场直播↓↓↓ 活动概述 随着AI.5G等新技术的发展,各类数据库加快智 ...

最新文章

  1. Bittrex交易所宣布:BCH正式加入美元交易市场
  2. 初步学习JS中的闭包
  3. Poj2420 A Star not a Tree? 模拟退火算法
  4. SAP Cloud Platform和S/4HANA的互联
  5. 希尔排序基础java代码_java 算法之希尔排序详解及实现代码
  6. 最新70佳单页网站设计案例欣赏(上篇)
  7. android服务下载,android服务之bindService和unService中下载任务中的应用
  8. LeetCode 1469. 寻找所有的独生节点
  9. 一天 6 个面试邀约,投一个约一个,挡不住!
  10. Objective-c方法调用流程
  11. 14-基于51单片机的声音分贝测量与显示仿真
  12. 《山海经》异兽75种,附图
  13. 避免360浏览器极速模式自动填充表单
  14. Linux命令:ls -l(ll)结果解析
  15. linux 搜索FC存储设备,Linux FC-SAN存储搭建
  16. 2012版辅助开发工具包(ADT)新功能特性介绍及安装使用
  17. Dnguard旗舰版代加密加壳服务 20/次
  18. POJ1502 信息传递(单源最短路径)
  19. java中String优化之intern()方法
  20. 微信小程序样式-元素选择器的使用

热门文章

  1. matlab 追赶法
  2. json 文档拆分工具_如何把PDF多页文档拆为单页?快看高手私藏实用的技巧
  3. C++ Const深入解析
  4. 百度图神经网络——论文节点比赛baseline代码注解
  5. java根据模板生成word文档_Python办公自动化:使用python来自动生成word文档
  6. Oracle Data Guard (RAC+DG) 归档删除策略及脚本
  7. hdu 4302 Holedox Eating
  8. struts1.x 错误之 java.lang.IllegalArgumentException: No bean specified
  9. 三星s4i9500+android4.2.2基带,【教程扫盲】S4该如何选择基带和底包[转自机锋]
  10. python cache MySQL_Python判断Memcached是否缓存MySQL结果