大型门户网站的可伸缩性架构设计
 

2009-12-28 来源:网络

 

我们知道,对于一个大型门户网站来说,可伸缩性是非常重要的,怎么样在纵向和横向有良好的可伸缩性,就需要在做架构设计的时候考虑到一个分的原则,我想在多个方面说一下怎么分:

首先是横向的分:

1. 大的网站化解为多个小网站:当我们一个网站有多个功能的时候,可以考虑把这个网站拆分成几个小模块,每一个模块可以是一个网站,这样的话我们到时候就可以很灵活地去把这些网站部署到不同的服务器上。

2. 静态动态分离:静态文件和动态文件最好分离开成2个网站,我们知道静态网站和动态网站对服务器来说压力的侧重不同,前者可能重IO后者重CPU,那么我们在选择硬件的时候也可以有侧重,而且静态和动态内容的缓存策略也不一样。典型的应用,我们一般会有独立的文件或图片服务器。

3. 按照功能来分:比如有一个模块是负责上传的,上传操作很消耗时间,如果和其它应用混在一起的话很可能,一点点访问就会使服务器瘫痪,这种特殊的模块应该分开。安全的不安全的也要分开,还需要考虑到以后SSL的购买。

4. 我们不一定要全部用自己的服务器,搜索、报表可以依靠别人的服务,比如google的搜索和报表服务,自己做的不一定比得过别人,服务器带宽都省了。

其次是纵向的分:

1. 文件也相当于数据库,IO的流量可能比数据库还大,这也算是纵向级别的访问,上传的文件图片一定要和WEB服务器分开。当然,数据库和网站都放在一个服务器上的很少了,这是最基本的。

2. 对于涉及到数据库访问的动态程序来说,我们可以使用一个中间层(所谓的应用层或逻辑层)来访问数据库(部署在独立的服务器上),最大的好处就是缓存和灵活性。缓存的内存占用比较大,我们要把它和网站进程分开,而且这样做我们可以很方便的去改变一些数据访问的策略,即使到时候数据库有分布的话在这里可以做一个调配工作,这样灵活性就很大了。还有好处是中间层可以做电线网通桥梁,可能网通访问双线再访问电信会比网通直接访问电信服务器快。

有人说我不分,我可以做负载均衡,对,是可以的,但是如果分的话,同样的10台机器肯定比不分10台机器可以承受更多的访问量,而且对硬件的需求可能不会很高,因为知道需要哪个硬件特别好。争取让每一个服务期都不空闲,又都不是太忙,合理进行组合调整和扩充,这样的系统伸缩性就高了,能根据访问量来调整的前提就是之前有考虑到分,分的好处是灵活性、伸缩性、隔离性以及安全性。

对服务器来说,我们有几点是要长期观察的,任何一点都可能是瓶颈:

1. CPU:动态文件的解析需要比较多的CPU,CPU出现瓶颈就要看是不是哪个功能过长时间占用线程,如果是就分出去。或者就是每一个请求处理时间不长,但是访问量很高,那么就加服务器。CPU是好东西,不能让他干等,不做事情。

2. 内存:缓存从IIS进程独立出去,一般对WEB服务器来说内存不够的情况不是很多。内存比磁盘快,要合理利用。

3. 磁盘IO:用性能监视器找到哪些文件IO特别大,找到了就分到独立的一组文件服务器上去,或者直接做CDN。磁盘慢,大规模读取数据的应用靠缓存,大规模写入数据的应用可以靠队列来降低突发的并发。

4. 网络:我们知道,网络的通讯是比较慢的,比磁盘还慢,如果是做分布式缓存,分布式计算的话,要考虑到物理服务器之间网络通讯的时间,当然,在流量大了以后,这可以提高系统的接纳能力一个等级。静态内容可以借助CSD分担一部分,在做服务器假设的时候还要考虑中国特色的电信网通情况以及防火墙。

对SQL SERVER数据库服务器来说[UPDATE]:

其实还是水平分割和纵向分割,一个二维表,水平分割就是横过来切一刀,纵向分割就是竖直切一刀:

1、纵向分割就是,我们不同的应用可以分到不同的DB中,不同的实例中,或者说把某个拥有很多字段的表拆分成小表。

2、横向分割就是,某些应用可能不负载,比如用户注册,但是用户表会非常大,可以把大表分开。可以采用表分区,数据存储在不同文件上,然后再部署到独立物理服务器增加IO吞吐以改善读写性能,土一点的做法就是自己定期把老的数据存档。表分区的另外一个优势可以增加数据查询速度,因为我们的页索引可以有多层了,就像一个文件夹中的文件不要太多,多分几层文件夹一样。

3、还可以通过数据库镜像、复制订阅、事物日志,把读写分开到不同的镜像物理数据库上,一般来说够用,如果还不行可以用硬件来实现数据库的负载均衡。当然,对于BI,我们可能还会有数据仓库。

架构上考虑到了这些之后,流量大了,就可以在这个的基础上再去调整或者做WEB服务器或者应用服务器的负载均衡。很多时候我们都是在重复发现问题-》找到瓶颈-》解决这个过程。

典型的架构如下:

动态WEB服务器配好点的CPU,静态WEB服务器和文件服务器磁盘好点

应用服务器内存大点,缓存服务器也是,数据库服务器当然内存和CPU都要好

转载于:https://www.cnblogs.com/heartstill/archive/2011/01/06/1927800.html

大型门户网站的可伸缩性架构设计相关推荐

  1. 大型门户网站架构设计的可伸缩性

    转自:http://siteguide.jzxue.com/jianzhanjingyan/200910/08-2877.html 我们知道,对于一个大型门户网站来说,可伸缩性是非常重要的,怎么样在纵 ...

  2. 国内大型门户网站架构分析-静态化网站架构

    <国内大型门户网站架构分析>共分两部分,原文作者写于2004年!但对目前大型网站架构仍有很好的参考意义! 大型社区网站的架构 浅析大型门户网站的架构 如何做镜像服务器 域名双线路智能负载均 ...

  3. 国内大型门户网站架构分析-静态化网站架构-sina、sohu静态化网站架构揣测

    http://hi.baidu.com/injava/blog/item/08b186ef22519beacf1b3e59.html <国内大型门户网站架构分析>共分两部分,原文作者写于2 ...

  4. 惊天骗局-----一个离开某大型门户网站人员自爆黑幕[zt]

    去年,我已在星星发表了一个关于免费发短信的各类软件的黑幕所在.而事实上的SMS(即短信)的黑幕远不止于此,今天,我终于有空坐下来,把其中的一些让你感觉平常却实际触目惊心的事情告诉你们,让你们知道SMS ...

  5. 大型门户网站(响应式)

    http://web.abchina.com/chn/ 1,本项目是: 属于大型门户网站 2,web响应式,自适应 采用的方案是 百分比控制.用js控制在不同的设备尺寸下加加载不同的css 3,在拿到 ...

  6. 《大型门户网站是这样炼成的!(Struts 2+Spring 2+Hibernate 3) 》

    <大型门户网站是这样炼成的!(Struts 2+Spring 2+Hibernate 3) > http://book.51cto.com/art/201004/193508.htm

  7. 大型门户网站的十四大技术

    大型门户网站的十四大技术 一.全文搜索(Lecene框架) 二.缓存(实现页面级的URL缓存) 三.生成静态文件(比如说,一个首页可能会员由多个部分组成,每个模块生成一个静态文件,然后才用服务器端包含 ...

  8. 大型网站分布式高并发架构设计

    1前言 网站架构包括:前端架构+应用层架构+服务层架构+存储层架构+后台架构+数据中心机房架构+安全架构+数据采集与监控. 以下为大型网站的一些架构: 2前端架构 浏览器优化技术 并不是优化浏览器,而 ...

  9. Web开发中软件工程艺术(Web程序员请进来谈谈,特别是有大型门户网站后台开发的程序员)

    近正着手一个大型综合性门户网站后台管理系统(准确说是内容管理系统)设计  与规划,对网站开发技术有一个较深刻的认识.从Internet的出现到现在,WebSite的开发技术有4个过程:        ...

最新文章

  1. python运维脚本部署jdk_Jenkins自动执行Python脚本,并输出测试报告
  2. 为Eclipse IDE for Java Developers安装插件,让其有Server和Project facets
  3. matlab数字通信,基于matlab时分复用数字通信系统的设计与实现.pdf
  4. 转:采用geodatabase做乡界的一点总结
  5. 【RUBY语言】ruby书籍
  6. GHOSTXP_SP3
  7. 55个javascript经典用法
  8. 获取屏幕宽度、浏览器宽度、网页高度,宽度信息
  9. 2018手机用户体验的11个设计趋势
  10. 怎样解决mysql最后一步提示未响应
  11. python 微信公众号发文章_Python 微信公众号文章爬取
  12. java万年历报告_java万年历设计报告
  13. 三字经带注解_三字经注释及解析
  14. 华为云OBS数据桶使用
  15. 盗版 Win7 试用到期后黑屏咋办
  16. 【题集】AVL树、伸展树、红黑树、二叉查找树、替罪羊树的时间复杂度
  17. HGDB 兼容 Oracle 中 merge into using(APP)
  18. [Unity绳子插件]Obi - Advanced Rope Simulation的使用
  19. obs studio_使用OBS Studio实时进行Linux视频编辑
  20. opencv 读取双摄自动对齐参数intrinsics.yml、extrinsics.yml 2021-04-12

热门文章

  1. 大批工厂提前20天放假,而大家却都在玩金融
  2. 我们需要什么样的恐怖小说?
  3. php 获取上周日期_php 获取今日、昨日、上周、本月的起始时间戳和结束时间
  4. GPU Gems1 - 23 景深技术综述
  5. php取json子对象属性,php中输出json对象的值(实现方法)
  6. Reversing-x64Elf-100
  7. PMP:4.项目整合管理
  8. 题解-BOI 2004 Sequence
  9. mongodb 物理删除数据
  10. Android获取程序路径 (/data/data/appname)