咱们说的高并发是什么？
上面的界说显着不是咱们一般所言的并发，在互联网年代，所讲的并发、高并发，一般是指并发拜访。也就是在某个时刻点，有多少个拜访一起到来一般假如一个体系的日PV在千万以上，有可能是一个高并发的体系，可是有的公司完全不走技能道路，全赖机器堆，这不在咱们的评论规模。
高并发的问题，咱们详细该关怀什么？
QPS：每秒钟恳求或许查询的数量，在互联网范畴，指每秒呼应恳求数(指HTTP恳求)
吞吐量：单位时刻内处理的恳求数量(一般由QPS与并发数决议)
呼应时刻：从恳求发出到收到呼应花费的时刻，例如体系处理一个HTTP恳求需求100ms，这个100ms就是体系的呼应时刻
PV：归纳阅读量(Page View)，即页面阅读量或许点击量，一个访客在24小时内拜访的页面数量，同一个人阅读你的网站同一页面，只记作一次PV
UV：独立拜访(UniQue Visitor)，即必定时刻规模内相同访客屡次拜访网站，只核算为1个独立访客
带宽：核算带宽巨细需重视两个目标，峰值流量和页面的均匀巨细
日网站带宽=PV/计算时刻(换算到秒)*均匀页面巨细(单位KB)*8
峰值一般是均匀值的倍数，依据实践情况来定
QPS不等于并发衔接数
QPS是每秒HTTP恳求数量，并发衔接数是体系一起处理的恳求数量
(总PV数*80%)/(6小时秒数*20%)=峰值每秒恳求数(QPS)
80%的拜访量会集在20%的时刻！！！
QPS到达极限，各种情况如何处理？
跟着QPS的增加，每个阶段需求依据实践情况来进行优化，优化的计划也与硬件条件、网络带宽休戚相关。
QPS到达50
能够称之为小型网站，一般的效劳器就能够敷衍
QPS到达100
假定联系型数据库的每次恳求在0.01秒完结
假定单页面只要一个SQL查询，那么100QPS意味这1秒钟完结100次恳求，可是此刻咱们并不能确保数据库查询能完结100次
计划：数据库缓存层、数据库的负载均衡
QPS到达800
假定咱们运用百兆带宽，意味着网站出口的实践带宽是8M左右
假定每个页面只要10k，在这个并发条件下，百兆带宽现已吃完
计划：CDN加快、负载均衡
QPS到达1000
假定运用Memcache缓存数据库查询数据，每个页面临Memcache的恳求远大于直接对DB的恳求
Memcache的失望并发数在2W左右，但有可能在之前内网带宽现已吃光，表现出不安稳
计划：静态HTML缓存
QPS到达2000
这个级别下，文件体系拜访锁都成为灾祸
计划：做事务别离，散布式存储
#三种高并发处理计划#
一、数据库缓存层的优化
什么是数据库缓存？
MySQL等一些常见的联系型数据库的数据都存储在磁盘中，在高并发场景下，事务运用对MySQL发生的增、删、改、查的操作形成巨大的I/O开支和查询压力，这无疑对数据库和效劳器都是一种巨大的压力，为了处理此类问题，缓存数据的概念应运而生
为什么是要运用缓存？
缓存数据是为了让客户端很少甚至不拜访数据库效劳器进行数据的查询，高并发下，能最大程度的下降对数据库效劳器的拜访压力极大地处理数据库效劳器的压力
进步运用数据的呼应速度
用户恳求-->数据查询-->衔接数据库效劳器并查询数据-->将数据缓存起来(HTML、内存、JSON、序列化数据)-->显现给客户端
用户再次恳求或许新用户拜访-->数据查询-->直接从缓存中获取数据-->显现给客户端
二、CDN加快
什么是CDN？
CDN的全称是Content Delivery Network，即内容分发网络，尽可能避开互联网上有可能影响数据传输速度和安稳性的瓶颈和环节，使内容传输的更快、更安稳
在网络遍地放置节点效劳器所构成的在现有的互联网根底之上的一层智能虚拟网络
CDN体系能够实时地依据网络流量和各节点的衔接、负载情况以及到用户的间隔和呼应时刻等归纳信息将用户的恳求从头导向离用户最近的效劳节点上
运用CDN的优势？
本地Cache加快，进步了企业站点(特别含有很多图片和静态页面站点)的拜访速度
跨运营商的网络加快，确保不同网络的用户都得到杰出的拜访质量
长途拜访用户依据DNS负载均衡技能智能主动挑选Cache效劳器
主动生成效劳器的长途Mirror(镜像)cache效劳器，长途用户拜访时从cache效劳器上读取数据，削减长途拜访的带宽，分管网络流量，减轻原站点WEB效劳器负载等功用
广泛散布的CDN节点加上节点之间的智能冗余机制，能够有效地防止黑客侵略
三、Web效劳器的负载均衡、恳求分发
七层负载均衡的完成
根据URL等运用信息的负载均衡
Nginx的proxy是它一个很强壮的功用，完成了7层负载均衡
Nginx完成的长处
功用强壮，功能杰出，运转安稳
装备简略灵敏
能够主动除掉作业不正常的后端效劳器
上传文件运用异步形式
支撑多种分配战略，能够分配权重，分配方法灵敏
Nginx负载均衡
内置战略，扩展战略
内置战略：IP Hash、加权轮询
扩展战略：fair战略、通用hash、一致性hash
加权轮询战略
首先将恳求都分给高权重的机器，直到该机器的权值降到了比其他机器低，才开端将恳求分给下一个高权重的机器
当一切后端机器都down掉时，Nginx会立行将一切机器的标志位清成初始状况，以防止形成一切的机器都处于timeout的状况
IP Hash战略
Nginx内置的另一个负载均衡的战略，流程和轮询很相似，仅仅七种的算法和详细的战略有些改变
IP Hash算法是一种变相的轮询算法
