假如目前的系统有100台机器,能够支撑每天1亿的点击量(这个就简单比喻一下),然后系统流量剧变了要,我如何应对,系统有那些策略可以处理,这里总结了一下之前的一些做法。
1、水平扩展
这个最容易理解,加机器,这样的话对于系统刚刚开始的伸缩性设计要求比较高,能够非常灵活的添加机器,来应对流量的变化。
2、系统分组
假如系统服务的业务不同,有优先级高的,有优先级低的,那就让不同的业务调用提前分组好的机器,这样的话在关键时刻,可以保核心业务。
3、系统限流
系统机器也加了,然后分组也做了,但是就是能力提升不上来,说白了就那样了,这时候,可以设置系统的极限能力阀值,例如QPS最大到多少,或者是同时并发的任务有多少,超过这个阀值之后就拒绝提供服务了。
4、业务引流
这个的话跟多的是业务做的事情,把流量引走,不要来请求系统了,一种简单的做法就是,冗余的业务直接隐藏掉链接,从开源节流的角度来想,就是开源。
5、业务降级
如果一个系统请求,涉及到多个逻辑处理,其中有的是可以没有的,就是类似锦上添花的那种,在高并发的情况下,可以通过系统开关的形式,不去做这个请求,这样就间接的提升了系统的能力,毕竟少做了一件事情。
6、依赖系统的能力扩展
如果单独看应用系统,可能东西要做的还真不多,但是要结合上下游的系统,尤其是下游依赖的存储系统,数据库是否能够支持够,分布式缓存是否能够支持够,都需要做好评估。
7、系统依赖梳理
上一条主要是说存储系统,如果本身是SOA的形式,可能会依赖其他系统,各个系统是否强弱依赖,在那个环节依赖了,都需要评估出来,可以人肉来做,也可以系统分析调用情况,来自动的做出来。
8、系统容量评估
系统到底能够撑多少的量,这个要有个客观数字的评估,需要结合系统的负载以及响应时间等数据,搞出一个模型出来,这样方便数字化出来。
9、数据库的读写分离以及主备按照读写比例进行划分
这个在数据库方面可以做优化,跟进系统的读写情况,划分,读写分离,全力保证写,然后如果读的压力太大,可以增加备库来提供读服务。
大体想到了几个点,简单的罗列一下。
相关推荐
针对Openstack认证系统的效率及能耗问题,提出一种自适应Openstack认证系统负载均衡策略。该策略设计自适应管理框架及自适应策略触发阈值,通过改进朴素贝叶斯算法对节点负载状况进行分类;通过信息熵算法确定各特征值...
基于linux集群系统负载平衡下的作业管理策略.pdf
nginx经常用到的负载均衡的5种策略,注意细节,部分属性不能一起使用。
负载平衡系统说明负载平衡系统说明负载平衡系统说明负载平衡系统说明负载平衡系统说明负载平衡系统说明负载平衡系统说明负载平衡系统说明
应用系统的负载高或者负载趋势大的现象,代表系统目前 处于高危工作环境中。如果系统管理员不及时进行相应的 处理,系统很容易出现故障。 本例重点分析磁盘容量,如果应用系统出现存储容量耗尽 的情况,会导致应用...
基于策略路由负载分担应用
通过对Zomaya遗传算法的改进,设计了针对即时通讯...最后通过仿真试验的结果证明,该负载均衡策略能够较好地解决在大任务量的情况下,即时通讯系统中异构节点间的负载平衡问题,提高系统的整体处理能力、反应速度和稳定性。
一种分布式系统中动态负载均衡策略.pdf 一种分布式系统中动态负载均衡策略.pdf 一种分布式系统中动态负载均衡策略.pdf
大型高并发高负载web应用系统架构-数据库架构策略
Linux环境下基于策略路由实现多线路负载均衡.pdf
Dubbo负载均衡策略
对异构数据库集群中间件的研究,即对于负载均衡的分析和设计。使用了三层体系架构模式,基于中间件...在此中间件体系架构模式下,实现了数据库的负载的决策、负载信息的收集及负载的放置,有效地提高了数据库的运行效率。
面向云服务的分布式消息系统负载均衡策略.pdf
针对贪婪地理路由协议的贪婪转发策略在业务量比较大时系统吞吐量急剧下降、网络节点能量消耗严重不平衡,缩短了系统的使用寿命,提出一种基于部分状态可观测的马尔可夫决策理论的负载均衡贪婪转发策略,设定队列长度...
调速系统设计及恒负载扰动下转速环突然断线matlab仿真.pdf调速系统设计及恒负载扰动下转速环突然断线matlab仿真.pdf调速系统设计及恒负载扰动下转速环突然断线matlab仿真.pdf调速系统设计及恒负载扰动下转速环突然...
通过改进ACO算法达到一种能实现通信网络负载平衡的群体智能路由策略。采用的主要方法为:将蚁群划分为若干个子群,不同子群的蚂蚁释放不同类型的信息素。通过不同类型信息素之间的相互制约作用,以及链路负载的测量...
Linux下基于策略路由实现带宽合并和负载均衡
系统LINUX负载均衡资料,很好的TOMCAT 的学习资料
一种改进的Linux集群系统负载均衡算法.pdf
为了提高IMKVS的缓存性能,提出一种软件定义网络中利用IMKVS结合NFV的分布式网络负载均衡策略。该策略包含两个阶段:第一阶段设计通用的SDN负载平衡器的模块,以运行不同的负载平衡算法;第二阶段是基于IMKVS的专业...