高并发是由于移动APP或网站PV（page view）即页面浏览量或点击量大，单台服务器无法承载大量访问所带来的压力，因此会采用服务器集群技术，用N台服务器进行分流，对于每次访问采取负载均衡策略，被分配到不同的服务器来处理请求。

负载均衡种类

一种是通过硬件来实现，常见硬件有F5，NetScaler、Radware和Array等商用的负载均衡器，但是它们是比较昂贵，成本比较高。

另一种是通过软件来实现，常见的软件有LVS、Nginx、Apache等,它们是基于Linux系统并且开源的负载均衡策略。

常用的软件解决方案之一

Keepalived的作用是检测服务器的状态利用其来避免单点故障、LVS(Linux Virtual Server)作为负载均衡和请求分发、Nginx（是一个高性能的HTTP和反向代理服务器）作为LVS的节点负载均衡使用，Tomcat作为web服务器具体处理访问请求，Redis作为缓存数据库，Mysql作为最终存储数据库。

整体架构图

整理架构图

架构说明

Keepalived：Keepalived是分布式部署系统解决系统高可用的软件，结合LVS（Linux Virtual Server）使用解决单机宕机的问题，达到高可用(HA)并发效果。双机热备是指两台机器都在运行，但并不是两台机器都同时在提供服务。当主服务器故障的时候，备份服务器会马上自动接管并且提供服务，而且切换的时间非常短。

Keepalived是以VRRP协议为实现基础的，VRRP全称Virtual Router Redundancy Protocol，即虚拟路由冗余协议。

LVS(Linux Virtual Server):即Linux虚拟服务器,有三种IP负载均衡技术（VS/NAT、VS/TUN和VS/DR）,十种调度算法（rr|wrr|lc|wlc|lblc|lblcr|dh|sh|sed|nq）。

Nginx:是一个很强大的高性能Web和反向代理服务器，通常作为负载均衡服务器。

负载均衡功能归纳：

1:转发请求

2:故障移除

3:恢复添加

Tomcat :是一个免费的开放源代码的Web 应用服务器，属于轻量级应用服务器。

Redis:是一个高性能的key-value数据库(Nosql),在高并时需配置主从同步。在Tomcat集群时可解决实现Session共享，在并发量大时可作为缓存数据库，避免Mysql数据库请求压力。如电商网站搞秒杀促销活动时，数据直接存储到Redis数据库，然后以一定时间规则同步到Mysql数据库中。

Mysql:作为目前世界上使用最广泛的免费数据库，在高并访问时通过主从复制（Master-Slave）的方式来同步数据实现高可用性，通过读写分离（MySQL-Proxy）来提升数据库的并发负载能力，再通过路由 Hash算法实现水平拆分,库表散列的来提升查询速度能力。

注：除了服务器架构级别实现高并发外，应用程序级别设计也很重要。

互联网产品之百万级高并发技术整体架构相关推荐

9基于linux百万级高并发框架Skynet-王桂林-专题视频课程
<9>基于linux百万级高并发框架Skynet-830人已学习课程介绍全面介绍一款专门为游戏服务所打造的后台框架skynet,Actor模型的剖析与搭建,通用服务模块 ...
【揭秘】12306是如何抗住几亿日活、百万级高并发的？
[欢迎关注微信公众号:厦门微思网络] 微思网络(官网):https://www.xmws.cn/ 每到节假日期间,一二线城市返乡.外出游玩的人们几乎都面临着一个问题:抢火车票! 虽然现在大多数情况下都 ...
刘志勇：微博短视频百万级高并发架构
本文来自新浪微博视频平台资深架构师刘志勇在LiveVideoStackCon 2018讲师热身分享,并由LiveVideoStack整理而成.分享中刘志勇从设计及服务可用性方面,详细解析了微博短视频高 ...
OPPO百万级高并发MongoDB集群性能数十倍提升优化实践
点击蓝色"架构文摘"关注我哟加个"星标",每天上午 09:25,干货推送! 1. 背景线上某集群峰值TPS超过100万/秒左右(主要为写流量,读流量很低), ...
kafka是如何做到百万级高并发低迟延的？
Kafka是高吞吐低延迟的高并发.高性能的消息中间件,在大数据领域有极为广泛的运用.配置良好的Kafka集群甚至可以做到每秒几十万.上百万的超高并发写入.Kafka到底是如何做到这么高的吞吐量和性能的 ...
你们说说kafka是如何做到百万级高并发低迟延的？
Kafka是高吞吐低延迟的高并发.高性能的消息中间件,在大数据领域有极为广泛的运用.配置良好的Kafka集群甚至可以做到每秒几十万.上百万的超高并发写入.Kafka到底是如何做到这么高的吞吐量和性能的 ...
百万用户的网站访问云服务器,大型网站百万级高并发测试–MySpace云测试CloudTest™...
2009年12月MySpace在新西兰对用户推出了音乐和视频的服务功能,这些新功能包括能够观看音乐录像,艺术家的视频搜索,创建收藏夹列表,等等.因为MySpace网站在任何国家每日的访问量是巨大的,这 ...
MySQL百万级高并发网站优化
为什么80%的码农都做不了架构师?>>> 一网站以下简称A站,这A站在年后流量猛增从一天的七八十万猛跑到了好几百万的IP,一天下来接近一千万的PV让整个服务器在高压下超负荷的工 ...
高并发服务器开源项目,百万级高并发WebRTC流媒体服务器设计与开发(示例代码)...
第1章课程导学与准备工作本章主要介绍为何要学习WebRTC流媒体服务器开发,以及本门课能为我们带来哪些收获.之后会为大家介绍本课程内容具体安排,最后给出如何学好这门课程的一些学习建议.希望大家都能 ...

互联网产品之百万级高并发技术整体架构

负载均衡种类

常用的软件解决方案之一

整体架构图

架构说明

互联网产品之百万级高并发技术整体架构相关推荐

最新文章

热门文章