阿里性能专家全方位对比Jmeter和Locust,到底谁更香?

摘要:
目前,行业内有很多种压力测试工具,如Loadlunner、Jmeter、Locust、Nginder、Apache ab、Wrk、Webbench等。那么,在实际的性能测试过程中,选择Jmeter还是Locust,除了语言上的差异外,它们有什么优缺点吗?

近些年,随着互联网行业的不断发展,用户规模也有了爆发性的增长。产品的性能成为影响用户体验的重要因素。因此,性能测试越来越受到大型互联网企业的重视。

在做性能测试时,通常都会借助一些压测工具来模拟大量的并发用户。目前业界压测工具种类繁多,比如Loadrunner、Jmeter、Locust、Ngrinder、Apache ab、Wrk、Webbench等。

面临这么多的压测工具,我们应该如何做出选择呢?你在公司里现在用的是什么工具呢?

相信很多小伙伴此刻喊出了“Jmeter”的名字,确实是,这几年Jmeter因其使用简单,学习成本低,跨平台等特性,在行业内应用非常的广泛,拥有非常高的人气。作为一款网红工具,Jmeter既能做接口性能测试,也可以做自动化测试。深受广大人民群众的喜爱。

另一方面,Python语言近些年在行业里也非常火,人生苦短、我用Python!使用Python来做自动化和接口测试也是非常的方便。因此,Python届的压测工具Locust也逐步成为越来越多人的选择。

阿里性能专家全方位对比Jmeter和Locust,到底谁更香?第1张

 

那么,在实际性能测试过程中,到底选择Jmeter还是Locust,除了语言上的差异,它们各自有什么优点和缺点吗?

阿里性能专家全方位对比Jmeter和Locust,到底谁更香?第2张

 

今天,我会从不同的维度,对这两款工具来做下对比分析,希望能帮助大家选择适合自己的工具。

发压能力

一个压测工具的核心能力就是发压能力,每秒能发出多少请求,决定这个工具能产生多大的压力。我们先从发压能力来对这两款工具做下对比测试。

测试前的准备

为了方便测试,我首先准备了一个测试环境,一台压力机和一台web服务器,具体信息如下

阿里性能专家全方位对比Jmeter和Locust,到底谁更香?第3张

 

为了更好的测试两个工具的发压能力,必须得找一个性能比较好的项目来做压测。就好比你现在要测试巅峰姚明的篮球技术,你用潘长江来陪练这就不合适了。你得把奥尼尔找来,这样姚明才能发挥出自己的全部能力。我在服务器上部署了一个性能VIP课上的接口项目,单接口能支持TPS 1w+

阿里性能专家全方位对比Jmeter和Locust,到底谁更香?第4张

 

压力机上分别安装了Jmeter5.1和Locust 0.13

提前写好了Jmeter脚本和Locust脚本,两个脚本里均只保留了http请求和断言,为了测试最大压力,没有做任何参数化,也没有使用其他影响性能的组件和代码。

同时,为了避免链接数受限,已经优化了两台机器的文件句柄数和TCP参数。

好了,一切准备就绪,battle开始,Let’s go !

阿里性能专家全方位对比Jmeter和Locust,到底谁更香?第5张

 

测试场景一:相同并发下,对商品信息接口压测,测试工具的最高TPS

Jmeter测试

前置条件:为了提升性能,采用了no-gui模式压测,Jvm堆内存配置为2G。从10并发开始,压测运行2分钟

Jmeter测试结果

阿里性能专家全方位对比Jmeter和Locust,到底谁更香?第6张

 

Jmeter结果分析:可以看到在20并发时,压力机的CPU已经达到了90%,接近极限,TPS为3979,web服务器CPU在80%以内,还有一些剩余空间,证明还是没压到极限。

Locust测试

前置条件:

1、考虑到Locust是单进程的,不能充分利用多核CPU,于是在压力机上开启一个master进程,2个slave进程,组成一个单机分布式系统。

2、将脚本中的wait_time设置为0,即多次循环之间不等待。

3、使用no-web模式进行压测(实际对比测试,web模式和no-web模式性能没明显差别)

Locust测试结果

阿里性能专家全方位对比Jmeter和Locust,到底谁更香?第7张

 

看我结果我惊呆了,相同并发下,Jmeter跑出了3000+TPS,Locust只有1500+?而且还把压力机的CPU消耗到了100%

想到了Locust官网曾提到过,默认情况下,Locust使用requests库发送HTTP请求,性能不太好,如果要产生更高的压力,建议使用FastHttpLocust作为HTTP客户端来压测,性能可以提升5-6倍

阿里性能专家全方位对比Jmeter和Locust,到底谁更香?第8张

 

赶紧改了下Locust脚本,使用了FastHttpLocust客户端,再次进行压测,结果如下

阿里性能专家全方位对比Jmeter和Locust,到底谁更香?第9张

 

可以看到,使用FastHttpLocust客户端后,Locust性能大幅提升,在10并发时,TPS就达到了4014,因为压力机CPU已经100%了,所以20并发下,TPS并没有什么明显增长。

场景总结

1、 在相同硬件配置,测试相同接口,使用相同的并发情况下,Locust产生的压力确实高于Jmeter,这个也是由于他们的底层实现机制不同,Jmeter基于多线程,Locust基于协程

2、 无论采用哪个工具,单机能产生的TPS大体差不多,相比来说,Locust用更少的并发就能达到相同的TPS。不过Locust对压力机的CPU消耗也更高

3、 Locust默认的HttpSession客户端确实挺垃圾的,做压测还是建议使用FastHttpLocust客户端,但是Locust官网也提到了,FastHttpLocust并不能完全替代HttpSession,这个还得取决于测试场景,所以这点也是使用中的一个风险

测试场景二:相同配置下,测试工具能支持多少并发

前置条件:

在上一个测试场景中,无论Jmeter还是Locust,在20并发时,压力机CPU会接近100%了,所以为了测试更高的并发,就得需要换一个性能差一些的接口。大家记住一点,性能差的接口比性能好的接口支持更高的并发

还是先测试Jmeter,从1000并发开始测,逐步增加到10000并发,结果如下

阿里性能专家全方位对比Jmeter和Locust,到底谁更香?第10张

 

场景总结

从上面两个工具的高并发测试来看,相同配置的机器上,两个工具都可以跑出1w并发,不过Jmeter使用的内存高于Locust。再高的并发,个人感觉没有必要了,单机1w并发已经满足绝大多数的项目了(在线下测试,大部分项目几十并发就能测出拐点),如果需要更大规模的,还是建议用多台机器分布式发压。

以上两个测试场景,都是针对压测工具的核心能力:TPS能力和并发能力,接下来再来其他方面的对比

测试报告对比

Jmeter有比较丰富的HTML报表,各个维度都有

阿里性能专家全方位对比Jmeter和Locust,到底谁更香?第11张

 

阿里性能专家全方位对比Jmeter和Locust,到底谁更香?第12张

 

阿里性能专家全方位对比Jmeter和Locust,到底谁更香?第13张

 

Locust提供了简单的数据实时报表,不过也够用

阿里性能专家全方位对比Jmeter和Locust,到底谁更香?第14张

 

个人感觉在报表方面,两个工具相差不是很大,都基本能满足工作需求

学习成本 & 易用性方面

Jmeter有单独的GUI界面,有丰富的内置函数,在脚本编写方面确实比较简单,基本上不需要写任何代码就能完成比较复杂的场景。

阿里性能专家全方位对比Jmeter和Locust,到底谁更香?第15张

 

Locust没有GUI界面,完全基于Python代码,所以你想使用什么功能,像参数化、关联、断言等,都得写代码来完成,相比来说学习成本更高。

阿里性能专家全方位对比Jmeter和Locust,到底谁更香?第16张

 

最终总结

发压能力:相同并发下,Locust(使用FastHttpLocust)> Jmeter

并发能力:Locust和Jmeter旗鼓相当,都能满足工作需求,Jmeter消耗的内存更高

结果报表:Jmeter好于Locust,但是基本都满足工作需求

学习成果:Jmeter>Locust

易用性:Jmeter > Locust

使用建议

如果只是做简单的接口测试、压力测试,没有需要写代码来扩展的特殊需求,首选Jmeter;

如果某些测试场景需要写代码来扩展,你会Java的话,可以选择Jmeter;

如果某些测试场景需要写代码来扩展,你会Python的话,可以选择Locust;

如果想在单台机器发起更大的压力的话,并且Python代码能力不错的话,可以选择Locust,记得一定要使用FastHttpLocust客户端

作  者:Testfan 北河老师

出  处:微信公众号:自动化软件测试平台

版权说明:欢迎转载,但必须注明出处,并在文章页面明显位置给出文章链接

免责声明:文章转载自《阿里性能专家全方位对比Jmeter和Locust,到底谁更香?》仅用于学习参考。如对内容有疑问,请及时联系本站处理。

上篇SQL Server 2008如何创建定期自动备份任务(一)APP专项测试下篇

宿迁高防,2C2G15M,22元/月;香港BGP,2C5G5M,25元/月 雨云优惠码:MjYwNzM=

相关文章

Jmeter属性和变量

一、Jmeter中的属性: 1、JMeter属性统一定义在jmeter.properties文件中,我们可以在该文件中添加自定义的属性 2、JMeter属性在测试脚本的任何地方都是可见的(全局),通常被用来定义一些JMeter使用的默认值,可以用于在线程间传递信息。 3、JMeter属性可以在测试计划中通过函数 _P 进行引用,但是不能作为特定线程的变量值...

jmeter(18)counter计数器函数和计数器配置元件

一. 计数器函数counter 1、计数器函数每次调用时都会生成一个新数字,从1开始逐渐增加1。计数器可以配置为将每个摸拟用户的值分开,或者为所有用户使用相同的计数器。如果每个用户的值县有单独的增量。则类似于计算测试计划中的迭代次数。全局计数器计算该请求运行的次数。 计数器使用整数变量来保存计数,因此最大值为2,147,483,647。 2、参数 1)第一...

jmeter环境搭建

1.JMeter 介绍      Apache JMeter是100%纯JAVA桌面应用程序,被设计为用于测试客户端/服务端结构的软件(例如web应用程序)。它可以用来测试静态和动态资源的性能,例如:静态文件,Java Servlet,CGI Scripts,Java Object,数据库和FTP服务器等等。JMeter可用于模拟大量负载来测试一台服务器,...

JMeter定时器设置延迟与同步

JMeter定时器一般用来设置延迟与同步。它的作用域和优先级如下: 定时器的优先级高于Sampler。 在同一作用域(比如控制器下)有多个定时器存在,每个定时器都会执行。 在某一Sampler节点下的定时器,只对这个Sampler有效。 JMeter一共有9种定时器: Constant Timer 固定值,多用来模拟思考时间。 Uniform Ra...

jmeter参数化-函数助手—CSVRead

函数助手:csvread 使用场景:不同的测试数据,做批量并发请求时,可以使用。利用函数从文件里面读取数据,我们这里只讲解csv的,TxT格式的可以自己去尝试 步骤:1:准备好csv格式的数据2:准备好接口,还是注册接口:参数有 mobilephone以及pwdhttp://地址/futureloa/mvc/api/member/register3:调用...

性能压测工具选型对比

本文是《Performance Test Together》(简称PTT)系列专题分享的第二期,该专题将从性能压测的设计、实现、执行、监控、问题定位和分析、应用场景等多个纬度对性能压测的全过程进行拆解,以帮助大家构建完整的性能压测的理论体系,并提供有例可依的实战。 该系列专题分享由阿里巴巴 PTS 团队出品,欢迎在文末处加入性能压测交流群,参与该系列的线上...