保障高并发：企业必须从传统性能测试转向云压测

Posted 2022-11-22 OneAPM官方技术

近几年，中国互联网实现了超高速的发展。阿里巴巴双十一每秒钟最高要处理28万个订单，国内很多直播平台的并发在线人数已经突破1000万，甚至很多在线教育平台的并发访问量都突破了百万的数量级。如果企业的IT系统扛不住这些流量的冲击，就会带来无法估量的损失。所以越来越多的中大型企业开始意识到，保障系统能够承担高并发请求，为用户提供优质的服务体验，已经成为企业最为核心的竞争因素。

来自谷歌的调研数据表明，如果网站打开慢每500毫秒，用户访问量可能下降20%。如果企业不幸发生宕机事件，甚至会造成数以亿计的经济损失。但是，我们也必须认识到，整个IT系统涉及的层面非常之大，网络层、服务器资源、操作系统、应用和很多组件的异常都可能导致性能问题。那么如何才能迅速定位到造成这些故障的根本原因呢？性能测试，就是找到异常原因的一个最佳途径。

性能测试的重要性

传统的性能测试，是通过自动化的测试工具模拟多种正常、峰值以及异常负载条件来对系统的各项性能指标进行测试。负载测试和压力测试都属于性能测试，两者可以结合进行。通过负载测试，确定在各种工作负载下系统的性能，目标是测试当负载逐渐增加时，系统各项性能指标的变化情况。压力测试是通过确定一个系统的瓶颈或者不能接受的性能点，来获得系统能提供的最大服务级别的测试。

在互联网发展的早期，这种模式几乎能够满足大多数企业的需求，但是移动互联网时代，整个IT基础设施已经变得更加复杂，而且对系统的稳定性提出了更高的要求，传统性能测试已经有点「捉襟见肘」了。

传统性能测试在当前应用环境下的短板

现在很多中大型互联网公司的业务量急剧上升，很多用户已经突破千万，网站动辄十几万甚至百万的访问量，这就导致整个IT系统的架构愈发复杂，很多公司的分布式CDN节点已经超过4000个，用户的对外服务带宽突破10Gbps。在这种背景下，如果还使用传统的性能测试方式，已经远远达不到企业发展的需求。而且传统压测的人力成本、资源成本、时间成本、费用成本十分高昂。

此外，市场上现有的Loadrunner、Jmeter等工具操作复杂，学习成本非常之高，测试人员不易掌握。而且某些并发的测试工具license授权费用超过百万，令绝大多数企业望而却步。很多企业也想开发自己的开源性能测试软件，但是搭建超过10000的用户并发系统，需要做大量的应用代码改造。而且整个过程往往需要数月之久，还需要大量的人力成本，风险极高，一般只适合阿里巴巴、腾讯、美团这样大型互联网公司。

云压测产品横空而出

2005年「云压测」概念被提出，伴随云计算技术快速发展，使用云资源实现弹性、可扩展、自由伸缩分布式压力产生模式横空出世。特别是近几年，随着Saas概念的普及与发展，以Soasta、OneCPT为代表的云压测产品已经成为传统测试行业最为强劲的对手。

云测试是利用云端的资源一站式完成性能测试，用户无需再购买包括服务器、机房在内的多种资源，从而能够节省大量的资源成本和人力成本。在Gartner的测试工具魔力象限中，Soasta与众多传统测试工具厂商已经开始并驾齐驱。而One CPT云压测平台，也是目前国内目前屈指可数的、唯一可以与Soasta对标的云压测厂商。

为什么越来越多的企业开始使用云压测？

相较于传统的性能测试方案，云压测具备以下4个方面的优势：

• 简单易用：云压测的脚本3分钟就可以生成，因为测试资源全部部署在云端，可以实现秒级启动，同时能够实现测试数据的秒级回传。
• 规模化部署：绝大多数云压测厂商的测试节点都能够覆盖全球，实现基于位置的按需定制，像OneAPM CPT还可以实现全链路真实节点，达到千万级的并发请求。
• 全栈监控：云压测产品都是基于分布式的云计算服务，能够基于位置快速进行响应，还能够实现同步监控数据回溯，达到全栈监控数据采集，全面覆盖网络层、服务器层、操作系统层以及应用层。
• 性价比较高：这也是最重要的一点，SaaS服务天然具备灵活的优势，云压测产品都可以按需计费，也不需要硬件部署，很容易实现一体化测试管理服务，而且团队之间也可以实现编组协同，大大提升工作效率。

其实早在2012年，伦敦奥组委就已经成为全球首个云压测最大的用户，截止到2013年，全球已经有上万家企业开始广泛使用云压测。不过因为多种原因，直到2014年，云压测概念才开始在中国落地，阿里云虽然在国内最早使用了云压测技术，但是无法支持本地化部署。

2015年OneCPT云压测平台发布一经发布，很快就获得市场和资本的青睐。一方面是OneAPM经过8年的技术沉淀与积累，产品和技术层面遥遥领先于对手；另一方面，OneCPT支持本地化部署，而且实现了全链路数据测试，真正能够帮助企业带来非常「直观」的价值。

电商巨头亚马逊曾经做过一份数据调研，如果电商网站的速度每下降100毫秒，营业额将减少1%。其实无论是电商网站，还是转型中的传统企业，亦或是高速成长的中小企业，IT系统所承担的角色已经愈发重要，而网站和系统的稳定性、高可用性、高并发都是衡量一个IT基础设施最为重要的几项因素。

现在，很多企业的业务发展较快，用户访问量可能瞬时变大，如果系统无法处理较短时间内的大量用户涌入，就会造成宕机。此外，如果数据库连接数到达上限，用户请求无法及时处理，也会给企业发展造成无法估量的损失。在这种背景下，越来越多的企业开始重视性能测试，必须将各种潜在的性能问题，提前扼杀在摇篮中。