Travis Reeder在Spikability一文中给出了四种应对突发访问的方法:
1. 资源充裕。预先评估峰值,部署足够多的服务器,保证系统可靠运行在任何环境下。缺点是系统空闲时资源利用率低。
2. 功能降级。禁用部分不太重要的功能,保证基本功能的可用性。
3. 自动扩容。当系统繁忙时自动向系统中添加新的服务器并部署应用。缺点是部署复杂,响应不迅速。另外还有一个缺点,当系统访问量不稳定时,可能导致颠簸,有服务器反复上线下线。
4. 请求队列。在突发请求出现的时候,队列会充满。利用充满队列的时间差,可以启用更多的服务器来处理队列上的请求。这么做的好处是不会浪费资源,峰值出现的时候服务器会满负荷运转。缺点是延迟增加了。
参考英文:
2.http://highscalability.com/blog/2012/7/12/4-strategies-for-punching-down-traffic-spikes.html
-
Have more resources than you'll ever need. Estimate the maximum traffic you'll need and keep that many servers running. Downside is you are paying for capacity you aren't using.
-
Disable features during high loads. Reduce load by disabling features or substituting in lighter weight features. Downside is users to have access to features.
-
Auto scaling. Launch new servers in response to load. Downsidesare it's complicated to setup and slow to respond. Random spikes will cause cycling of instances going up and down.
-
Use message queues. Queues soak up work requests during traffic spikes. More servers can be started to process work from the queue. Resources aren't wasted and features are disabled. Downside is increased latency.
分享到:
相关推荐
弹性调度IT架构应对突发业务访问.pptx
(3)及时组织有关部门和专业技术人员对校园网上出现的突发事件进行处理并根据情况的严重程度上报有关部门。 (4)与教育局装备站保持热线联系,协助装备站对教育网络信息网络安全突发事件应急预案全文共5页,当前为第2...
所以,必须要使用DMA来进行突发访问。 另外一个问题,就是我当初使用DMA的时候,由于NWAIT信号没做处理,每次DMA都只是传了一个数据,然后就停下来。后来,我把NWAIT连接到高电平(高电平还是低电平,这个要根据...
曙光公司以国家智能计算机研究开发中心、国家高性能计算机工程中心和国家高性能计算中心...本解决方案具有良好的在线扩展能力,一旦访问规模扩大,可以及时、有效的扩展系统的服务能力,满足特殊情况下应用系统的需求。
在分布式系统中,应对高并发访问时,缓存、限流、降级是保护系统正常运行的常用方法。当请求量突发暴涨时,如果不加以限制访问,则可能导致整个系统崩溃,服务不可用。同时有一些业务场景,比如短信验证码,或者其它...
为确保网络正常使用,充分发挥网络在信息时代的作用,促进教育信息化健康发展 ,根据国务院《互联网信息服务管理办法》和有关规定,特制订本预案,妥善处理危害网 络与信息安全的突发事件,最大限度地遏制突发事件的...
现有方法通过分析在线业务的实时负载数 据来判断业务是否存在异常,在应对由程序异常或突发用 户访问引起的异常负载时存在准确率低、误报率高的问题. 该文提出并实现了一种面向云计算在线业务的异常负载检 测方法.
为了解决云服务中客户端传输流量过大或者突发流霸占服务导致的网络拥塞、服务性能降低问题,将软件定义网络(Software-Defined Networking,SDN)架构运用于云服务流量控制,并提出了一种基于SDN的云服务流量控制...
l 静态和可编程突发处理 l 数据位宽高达1024-bit l 独立的收发描述符缓冲 l 支持64-bit地址 (必须使用 Qsys 12.1或之后的版本) l 4GB缓冲传输 l 可编程跨越(以字为单位) l 可编程添加描述符 l 用户可定制功能...
工信部《人形机器人创新发展指导意见》提出了以应对真实场景下的复杂环境与任务、应对突发情况为特征的实用化人形机器人功能需求,CPU+软件的大运算量并行处理能力、实时性已经不能满足要求。 FPGA 具备高速、并行...
工信部《人形机器人创新发展指导意见》提出了以应对真实场景下的复杂环境与任务、应对突发情况为特征的实用化人形机器人功能需求,CPU+软件的大运算量并行处理能力、实时性已经不能满足要求。 FPGA 具备高速、并行...
新街镇中心学校园网络安全应急预案 为了切实做好学校校园网络突发事件的防范和应急处理工作,进一步提高学校预防 和控制网络突发事件的能力和水平,减轻或消除突发事件的危害和影响,确保校园网络 与信息安全,结合...
三、WEB服务器硬件故障处理 服务器出现硬件故障时,应及时启用备用服务器重新安装IIS,配置网站环境,将备 份好的网站目录文件导入备用服务器,测试是否能正常访问,如能访问,将环境配置与 原服务器相同后放入生产...
主要包含应急事件分类、应急事件分级、突发应急事件的处理预案。结合实例,介绍了机房故障、服务器宿主机故障、系统数据库无法访问、服务器manager软件故障等突发事项的处理方法。
为了提高处理突发性网络异常事件的处理能力, 确保医院业务系统的正常运作, 在目前的网络现状下我们制定出一套操作性强, 目的明确的应急处理预案。该预案目的旨在技术人员在突发事件发现时, 迅速作出响应, 快速处理,...
实时掌握设备和网络的运行状况,了解设备和网络的运行趋势,提高维护人 员对突发事件的处理效率。 通过定期维护和保养设备,使设备的健康水平长期处于良好状态,确保系统 能够安全、稳定、可靠的运行。 通过定期...
对于互联网教育的场景,由于存在放假和平时的区别,系统也需要有一定的弹性伸缩能力去应对高出平时几倍的压力,等访问减少时,业务系统能释放冗余的资源达到节约成本的目标。 文章链接:...
管理员可以添加新闻,批准作者待处理的新闻,删除新闻,更新和编辑新闻,选择任何要突发新闻的新闻。 管理员可以添加类别,显示类别表。 管理员可以处理所有待处理的新闻,并可以批准它们。 管理员可以处理所有...
系统提供传染病应急处理指南和紧急求助功能,用户在遇到传染病突发事件时可以及时获取应对方法和求助渠道。 系统实现用户求助信息的快速响应和转发,保障用户在紧急情况下的安全和健康。 通过以上功能的设计与实现,...
1.6.4第四步:删除strlen函数 1.6.5第五步:删除除法操作 1.6.6第六步:删除性能监测代码 1.6.7第七步:函数组合 1.6.8第八步:减少内存访问操作的次数 1.6.9第九步:把VTune当做私人教练 1.6.10第十步:下结论 ...