一、大型网站的特点

  1. 用户多,分布广泛
  2. 大流量,高并发
  3. 海量数据,服务高可用
  4. 安全环境恶劣,易受网络攻击
  5. 功能多,变更快,频繁发布
  6. 从小到大,渐进发展
  7. 以用户为中心
  8. 免费服务,付费体验

二、大型网站架构目标

大型网站架构的核心是如何管控流量

  1. 高性能:提供快速的访问体验。

  2. 高可用:网站服务一直可以正常访问。
  3. 可伸缩:通过硬件增加/减少,提高/降低处理能力。
  4. 安全性:提供网站安全访问和数据加密,安全存储等策略。
  5. 扩展性:方便的通过新增/移除方式,增加/减少新的功能/模块。
  6. 敏捷性:随需应变,快速响应;

三、大型网站架构模式

  1. 分层:一般可分为,应用层,服务层,数据层,管理层,分析层;
  2. 分割:一般按照业务/模块/功能特点进行划分,比如应用层分为首页,用户中心。
  3. 分布式:将应用分开部署(比如多台物理机),通过远程调用协同工作。
  4. 集群:一个应用/模块/功能部署多份(如:多台物理机),通过负载均衡共同提供对外访问。
  5. 缓存:将数据放在距离应用或用户最近的位置,加快访问速度。
  6. 异步:将同步的操作异步化。客户端发出请求,不等待服务端响应,等服务端处理完毕后,使用通知或轮询的方式告知请求方。一般指:请求——响应——通知模式。
  7. 冗余:增加副本,提高可用性,安全性,性能。
  8. 安全:对已知问题有有效的解决方案,对未知/潜在问题建立发现和防御机制。
  9. 自动化:将重复的,不需要人工参与的事情,通过工具的方式,使用机器完成。
  10. 敏捷性:积极接受需求变更,快速响应业务发展需求。

四、高性能架构

以用户为中心,提供快速的网页访问体验。主要参数有较短的响应时间,较大的并发处理能力,较高的吞吐量,稳定的性能参数。

  1. 可分为前端优化,应用层优化,代码层优化,存储层优化。
  2. 前端优化:网站业务逻辑之前的部分;
  3. 浏览器优化:减少Http请求数,使用浏览器缓存,启用压缩,Css Js位置,Js异步,减少Cookie传输;
  4. CDN加速,反向代理;
  5. 应用层优化:处理网站业务的服务器。使用缓存,异步,集群
  6. 代码优化:合理的架构,多线程,资源复用(对象池,线程池等),良好的数据结构,JVM调优,单例,Cache等;
  7. 存储优化:缓存,固态硬盘,光纤传输,优化读写,磁盘冗余,分布式存储(HDFS),NOSQL等;

五、高可用架构

大型网站应该在任何时候都可以正常访问。正常提供对外服务。因为大型网站的复杂性,分布式,廉价服务器,开源数据库,操作系统等特点。要保证高可用是很困难的,也就是说网站的故障是不可避免的。

如何提高可用性,就是需要迫切解决的问题。首先,需要从架构级别,在规划的时候,就考虑可用性。行业内一般用几个9表示可用性指标。比如四个9(99.99),一年内允许的不可用时间是53分钟。

  1. 不同层级使用的策略不同,一般采用冗余备份和失效转移解决高可用问题。
  2. 应用层:一般设计为无状态的,对于每次请求,使用哪一台服务器处理是没有影响的。一般使用负载均衡技术(需要解决Session同步问题),实现高可用。
  3. 服务层:负载均衡,分级管理,快速失败(超时设置),异步调用,服务降级,幂等设计等。
  4. 数据层:冗余备份(冷,热备[同步,异步],温备),失效转移(确认,转移,恢复)。数据高可用方面著名的理论基础是CAP理论(持久性,可用性,数据一致性[强一致,用户一致,最终一致])

六、可伸缩架构

伸缩性是指在不改变原有架构设计的基础上,通过添加/减少硬件(服务器)的方式,提高/降低系统的处理能力。

  1. 应用层:对应用进行垂直或水平切分。然后针对单一功能进行负载均衡(DNS,HTTP[反向代理],IP,链路层)。
  2. 服务层:与应用层类似;
  3. 数据层:分库,分表,NOSQL等;常用算法Hash,一致性Hash。

七、可扩展架构

可以方便的进行功能模块的新增/移除,提供代码/模块级别良好的可扩展性。

  1. 模块化,组件化:高内聚,内耦合,提高复用性,扩展性。
  2. 稳定接口:定义稳定的接口,在接口不变的情况下,内部结构可以“随意”变化。
  3. 设计模式:应用面向对象思想,原则,使用设计模式,进行代码层面的设计。
  4. 消息队列:模块化的系统,通过消息队列进行交互,使模块之间的依赖解耦。
  5. 分布式服务:公用模块服务化,提供其他系统使用,提高可重用性,扩展性。

八、安全架构

对已知问题有有效的解决方案,对未知/潜在问题建立发现和防御机制。对于安全问题,首先要提高安全意识,建立一个安全的有效机制,从政策层面,组织层面进行保障。比如服务器密码不能泄露,密码每月更新,并且三次内不能重复;每周安全扫描等。以制度化的方式,加强安全体系的建设。同时,需要注意与安全有关的各个环节。安全问题不容忽视。包括基础设施安全,应用系统安全,数据保密安全等。

  1. 基础设施安全:硬件采购,操作系统,网络环境方面的安全。一般采用,正规渠道购买高质量的产品,选择安全的操作系统,及时修补漏洞,安装杀毒软件防火墙。防范病毒,后门。设置防火墙策略,建立DDOS防御系统,使用攻击检测系统,进行
    子网隔离等手段。
  2. 应用系统安全:在程序开发时,对已知常用问题,使用正确的方式,在代码层面解决掉。防止跨站脚本攻击(XSS),注入攻击,跨站请求伪造(CSRF),错误信息,HTML注释,文件上传,路径遍历等。还可以使用Web应用防火墙(比如:ModSecurity),进行安全漏洞扫描等措施,加强应用级别的安全。
  3. 数据保密安全:存储安全(存在在可靠的设备,实时,定时备份),保存安全(重要的信息加密保存,选择合适的人员复杂保存和检测等),传输安全(防止数据窃取和数据篡改);
  4. 常用的加解密算法(单项散列加密[MD5,SHA],对称加密[DES,3DES,RC]),非对称加密[RSA]等。

九、敏捷性

  1. 网站的架构设计,运维管理要适应变化,提供高伸缩性,高扩展性。方便的应对快速的业务发展,突增高流量访问等要求。
  2. 除上面介绍的架构要素外,还需要引入敏捷管理,敏捷开发的思想。使业务,产品,技术,运维统一起来,随需应变,快速响应。

十、大型架构举例

以上采用七层逻辑架构,第一层客户层,第二层前端优化层,第三层应用层,第四层服务层,第五层数据存储层,第六层大数据存储层,第七层大数据处理层。

  1. 客户层:支持PC浏览器和手机APP。差别是手机APP可以直接访问通过IP访问,反向代理服务器。
  2. 前端层:使用DNS负载均衡,CDN本地加速以及反向代理服务;
  3. 应用层:网站应用集群;按照业务进行垂直拆分,比如商品应用,会员中心等;
  4. 服务层:提供公用服务,比如用户服务,订单服务,支付服务等;
  5. 数据层:支持关系型数据库集群(支持读写分离),NOSQL集群,分布式文件系统集群;以及分布式Cache;
  6. 大数据存储层:支持应用层和服务层的日志数据收集,关系数据库和NOSQL数据库的结构化和半结构化数据收集;
  7. 大数据处理层:通过Mapreduce进行离线数据分析或Storm实时数据分析,并将处理后的数据存入关系型数据库。

【架构零】大型网站的架构的目标与挑战相关推荐

  1. 大型网站架构之大型网站核心架构要素

    大型网站核心架构要素 软件架构指的是,有关软件整体结构与组件的抽象描述,用于指导大型软件系统各方面的设计. 1.性能 在浏览器端 a.通过浏览器缓存.使用页面压缩.合理布局页面.减少Cookie传输等 ...

  2. 读书笔记 之《软件架构设计: 大型网站技术架构与业务架构融合之道》

    大家好呀,我是小菜~ 帅哥美女,知道你们时间宝贵,那么就由小菜为你读好一本书,读一本好书,取其精华,与你共享~! 本文主要分享 <软件架构设计:大型网站技术架构与业务架构融合之道> 如有需 ...

  3. 《大型网站技术架构:核心原理与案例分析》

    大型网站架构演化 大型网站软件系统的特点 大网站架构演化发展历程 初始阶段的网站架构 应用服务和数据服务分离 使用缓存改善网站性能 使用应用服务器集群改善网站的并发处理能力 数据库读写分离 使用反向代 ...

  4. 小白入门:大型网站技术架构负载均衡技术介绍及学习资源推荐

    十年间,负载均衡的前沿技术层出不穷,令用户眼花缭乱.经常在技术网站.文档中出现的"四层负载均衡"."七层负载均衡"字眼有什么含义?有什么区别?对客户网络有哪些不 ...

  5. 【面试精选】关于大型网站系统架构你不得不懂的10个问题

    该文已加入笔主的开源项目--JavaGuide(一份涵盖大部分Java程序员所需要掌握的核心知识的文档类项目),地址:github.com/Snailclimb/- .觉得不错的话,记得点个Star. ...

  6. 大型网站系统架构演化之路(转)

    前言 一个成熟的大型网站(如淘宝.京东等)的系统架构并不是开始设计就具备完整的高性能.高可用.安全等特性,它总是随着用户量的增加,业务功能的扩展逐渐演变完善的,在这个过程中,开发模式.技术架构.设计思 ...

  7. 大型网站系统架构演化之路

    前言 一个成熟的大型网站(如淘宝.京东等)的系统架构并不是开始设计就具备完整的高性能.高可用.安全等特性,它总是随着用户量的增加,业务功能的扩展逐渐演变完善的,在这个过程中,开发模式.技术架构.设计思 ...

  8. 大型网站技术架构:摘要与读书笔记

    花了几个晚上看完了<大型网站技术架构>(https://book.douban.com/subject/25723064/)这本书,个人感觉这本书的广度还行,深度还有些欠缺(毕竟只有200 ...

  9. 【转】大型网站系统架构演化之路

    前言 一个成熟的大型网站(如淘宝.天猫.腾讯等)的系统架构并不是一开始设计时就具备完整的高性能.高可用.高伸缩等特性的,它是随着用户量的增加,业务功能的扩展逐渐演变完善的,在这个过程中,开发模式.技术 ...

  10. 大型网站系统架构系列:负载均衡详解(一)

    大型网站系统架构系列:负载均衡详解(一) 2016-03-20 架构说 面对大量用户访问.高并发请求,海量数据,可以使用高性能的服务器.大型数据库,存储设备,高性能Web服务器,采用高效率的编程语言比 ...

最新文章

  1. 一个整型数组里除了两个数字之外,其他的数字都出现了两次
  2. 最新!2022中国大学排名发布
  3. JavaWeb第四讲 会话跟踪技术HttpSession、Cookie、url、隐藏表单域
  4. Oracle数据库管理与开发pdf
  5. javadoc提取工具_使JavaDoc保持最新状态的工具
  6. apt-get update 问题 及gcc高亮
  7. 互联网日报 | 苹果首款自研芯片M1亮相;酷派主动终止与小米专利侵权诉讼;橙心优选日订单破700万...
  8. hdu2022——海选女主角
  9. 多项式辗转相除法求最大公约数_多项式的一些性质
  10. 漫画算法python版下载_用 Python 下载漫画
  11. caffe︱cifar-10数据集quick模型的官方案例
  12. 百度云的云推送中的Native liberary not found 问题
  13. 进销存excel_进销存管理系统excel模板
  14. 20省“十四五”5G发展规划全文发布!(限时下载)
  15. 位运算实现加减乘除运算——超详细C语言描述
  16. udp接受_电脑网络基础知识:用户数据报协议(UDP)的学习
  17. Python中sys模块使用
  18. ASP.NET实现将word文档转换成pdf的方法
  19. 如何成为高效的学习高手-摘要
  20. web调用身份证读卡器品牌选择及技术实现

热门文章

  1. OpenSql的优化原则
  2. java对xml文件做增删改查------摘录
  3. java中1代表什么,java中iamp; =(i-1)的含义是什么
  4. python通讯录管理程序的用户可行性_通讯录管理系统项目可行性分析
  5. php 获取发票内容,php – 如何从发票ID获取PayPal交易ID
  6. app分发平台java_集成 Asset Delivery (Java)
  7. java读取ini_java 读取ini配置文件
  8. python将object转换为float_将pandas系列类型从object转换为float64
  9. matlab图像的腐蚀和膨胀_OpenCV图像处理系列八 --- 腐蚀与膨胀
  10. java动态生成柱状图3D_在android上动态实现ichartjs的3D柱形图