硬核!如何模拟 5w+ 的并发用户?

沙海 2021年6月20日05:13:14Java评论43字数 4677阅读15分35秒阅读模式
摘要

智能摘要

智能摘要文章源自JAVA秀-https://www.javaxiu.com/33941.html

点击上方"Java基基",选择"设为星标"做积极的人,而不是积极废人!如果你能用户沙箱中的数据来做这个决定,那就太棒了!按保存按钮——现在我们有了一个Master和9个Slave中的一个。通过按master上的开始按钮来运行10个测试,每个测试5千用户。results"的master报告中的一个新tab页中找到生成的聚合结果的报告,你还可以通过打开单个的报告来独立的查看每一个测试结果。文章源自JAVA秀-https://www.javaxiu.com/33941.html

原文约 5642 | 图片 7 | 建议阅读 12 分钟 | 评价反馈文章源自JAVA秀-https://www.javaxiu.com/33941.html

硬核!如何模拟 5w+ 的并发用户?

点击关注 ? Java基基 文章源自JAVA秀-https://www.javaxiu.com/33941.html

收录于话题文章源自JAVA秀-https://www.javaxiu.com/33941.html

#Java基基文章源自JAVA秀-https://www.javaxiu.com/33941.html

169个文章源自JAVA秀-https://www.javaxiu.com/33941.html

点击上方“Java基基”,选择“设为星标”文章源自JAVA秀-https://www.javaxiu.com/33941.html

做积极的人,而不是积极废人!文章源自JAVA秀-https://www.javaxiu.com/33941.html

文章源自JAVA秀-https://www.javaxiu.com/33941.html

源码精品专栏文章源自JAVA秀-https://www.javaxiu.com/33941.html

 文章源自JAVA秀-https://www.javaxiu.com/33941.html

文章源自JAVA秀-https://www.javaxiu.com/33941.html

来源:t.cn/ES7KBkW文章源自JAVA秀-https://www.javaxiu.com/33941.html

本文将从负载测试的角度,描述了做一次流畅的5万用户并发测试需要做的事情.文章源自JAVA秀-https://www.javaxiu.com/33941.html

你可以在本文的结尾部分看到讨论的记录.文章源自JAVA秀-https://www.javaxiu.com/33941.html

快速的步骤概要文章源自JAVA秀-https://www.javaxiu.com/33941.html

  1. 编写你的脚本文章源自JAVA秀-https://www.javaxiu.com/33941.html

  2. 使用JMeter进行本地测试文章源自JAVA秀-https://www.javaxiu.com/33941.html

  3. BlazeMeter沙箱测试文章源自JAVA秀-https://www.javaxiu.com/33941.html

  4. 使用一个控制台和一个引擎设置Users-per-Engine的数量文章源自JAVA秀-https://www.javaxiu.com/33941.html

  5. 设置并测试你的集合 (1个控制台和10-14 引擎)文章源自JAVA秀-https://www.javaxiu.com/33941.html

  6. 使用 Master / Slave 特性来达成你的最大CC目标文章源自JAVA秀-https://www.javaxiu.com/33941.html

硬核!如何模拟 5w+ 的并发用户?文章源自JAVA秀-https://www.javaxiu.com/33941.html

步骤1 : 编写你的脚本

开始之前,请确定从JMeter的Apache社区jmeter.apache.org 获得了最新的版本.文章源自JAVA秀-https://www.javaxiu.com/33941.html

你也会要下载这些附加的插件 ,因为它们可以让你的工作更轻松.文章源自JAVA秀-https://www.javaxiu.com/33941.html

有许多方法可以获得脚本:文章源自JAVA秀-https://www.javaxiu.com/33941.html

  1. 使用 BlazeMeter 的 Chrome 扩展 来记录你的方案文章源自JAVA秀-https://www.javaxiu.com/33941.html

  2. 使用 JMeter HTTP(S) 测试脚本记录器 来设置一个代理,那样你就可以运行你的测试并记录下所有的东西文章源自JAVA秀-https://www.javaxiu.com/33941.html

  3. 从头开始全部手工构建(可能是功能/QA测试)文章源自JAVA秀-https://www.javaxiu.com/33941.html

如果你的脚本是一份记录的结果(像步骤1&2), 请牢记:文章源自JAVA秀-https://www.javaxiu.com/33941.html

  1. 你需要改变诸如Username & Password这样的特定参数,或者你也许会想要设置一个CSV文件,有了里面的值每个用户就可以是不同的.文章源自JAVA秀-https://www.javaxiu.com/33941.html

  2. 为了完成诸如“添加到购物车”,“登录”还有其它这样的请求,你也许要使用正则表达式,JSON路径提取器,XPath提取器,来提取诸如Token字符串,表单构建ID还有其它要素文章源自JAVA秀-https://www.javaxiu.com/33941.html

  3. 保持你的脚本参数化,并使用配置元素,诸如默认HTTP请求,来使得在环境之间切换时你的工作更轻松.文章源自JAVA秀-https://www.javaxiu.com/33941.html

步骤2 : 使用JMeter进行本地测试

在1个线程的1个迭代中使用查看结果树要素,调试样本,虚拟样本还有打开的日志查看器(一些JMeter的错误会在里面报告),来调试你的脚本.文章源自JAVA秀-https://www.javaxiu.com/33941.html

遍历所有的场景(包括True 或者 False的回应) 来确保脚本行为确如预期...文章源自JAVA秀-https://www.javaxiu.com/33941.html

在成功使用一个线程测试之后——将其提高到10分钟10到20个线程继续测试:文章源自JAVA秀-https://www.javaxiu.com/33941.html

  1. 如果你想要每个用户独立——是那样的么?文章源自JAVA秀-https://www.javaxiu.com/33941.html

  2. 有没有收到错误?文章源自JAVA秀-https://www.javaxiu.com/33941.html

  3. 如果你在做一个注册过程,那就看看你的后台 - 账户是不是照你的模板创建好了? 它们是不是独立的呢?文章源自JAVA秀-https://www.javaxiu.com/33941.html

  4. 从总结报告中,你可以看到对测试的统计 - 它们有点用么? (平均响应时间, 错误, 每秒命中率)文章源自JAVA秀-https://www.javaxiu.com/33941.html

一旦你准备好了脚本:文章源自JAVA秀-https://www.javaxiu.com/33941.html

  1. 通过移除任何调试和虚拟样本来清理脚本,并删除你的脚本侦听器文章源自JAVA秀-https://www.javaxiu.com/33941.html

  2. 如果你使用了侦听器(诸如 "将响应保存到一个文件"),请确保你没有使用任何路径! , 而如果他是一个侦听器或者一个CSV数据集配置——请确保你没有使用你在本地使用的路径 - 而只要文件名(就好像跟你的脚本在同一个文件夹)文章源自JAVA秀-https://www.javaxiu.com/33941.html

  3. 如果你使用了自己专有的JAR文件,请确保它也被上传了.文章源自JAVA秀-https://www.javaxiu.com/33941.html

  4. 如果你使用了超过一个线程组(不是默认的那个) - 请确保在将其上传到BlazeMeter之前设置了这个值.文章源自JAVA秀-https://www.javaxiu.com/33941.html

步骤3 : BlazeMeter沙箱测试

如果那时你的第一个测试——你应该温习一下 这篇 有关如何在BlazeMeter中创建测试的文章.文章源自JAVA秀-https://www.javaxiu.com/33941.html

将沙箱的测试配置设置成,用户300,1个控制台, 时间50分钟.文章源自JAVA秀-https://www.javaxiu.com/33941.html

对沙箱进行这样的配置让你可以在后台测试你的脚本,并确保上的BlazeMeter的一切都运行完好.文章源自JAVA秀-https://www.javaxiu.com/33941.html

为此,先按下灰色的按钮: 告诉JMeter引擎我想要完全控制! - 来获得对你的测试参数的完全控制文章源自JAVA秀-https://www.javaxiu.com/33941.html

通常你将会遇到的问题:文章源自JAVA秀-https://www.javaxiu.com/33941.html

  1. 防火墙 - 确保你的环境对BlazeMeter的CIDR 列表 (它们会实时更新)开发,并把它们放入白名单中文章源自JAVA秀-https://www.javaxiu.com/33941.html

  2. 确保你所有的测试文件, 比如: CSVs, JAR, JSON, User.properties 等等.. 都可以使用文章源自JAVA秀-https://www.javaxiu.com/33941.html

  3. 确保你没有使用任何路径文章源自JAVA秀-https://www.javaxiu.com/33941.html

如果仍然有问题,那就看看错误日志吧(你应该可以把整个日志都下载下来).文章源自JAVA秀-https://www.javaxiu.com/33941.html

一个沙箱的配置可以是这样的:文章源自JAVA秀-https://www.javaxiu.com/33941.html

  • 引擎: 是能使控制台(1 个控制台 , 0 个引擎)文章源自JAVA秀-https://www.javaxiu.com/33941.html

  • 线程: 50-300文章源自JAVA秀-https://www.javaxiu.com/33941.html

  • 产能提升: 20 分钟文章源自JAVA秀-https://www.javaxiu.com/33941.html

  • 迭代: 一直测试下去文章源自JAVA秀-https://www.javaxiu.com/33941.html

  • 时间: 30-50 分钟文章源自JAVA秀-https://www.javaxiu.com/33941.html

这可以让你在产能提升期间获得足够多的数据(以防你遇到问题) ,而你将可以对结果进行分析,以确保脚本的执行确如预期.文章源自JAVA秀-https://www.javaxiu.com/33941.html

你应该观察下Waterfall / WebDriver 选项卡来看看请求是否正常,你不应该在这一点上出任何问题(除非你是故意的).文章源自JAVA秀-https://www.javaxiu.com/33941.html

你应该盯着监控选项卡,观察期内存和CPU消耗 - 这对你在步骤4中尝试设置每一个引擎的用户数量.文章源自JAVA秀-https://www.javaxiu.com/33941.html

步骤4 : 使用1个控制台和1个引擎来设置每个引擎用户的数量

现在我们可以肯定脚本能在BlazeMeter中完美运行了——我们需要计算出要多少用户放到一个引擎中.文章源自JAVA秀-https://www.javaxiu.com/33941.html

如果你能用户沙箱中的数据来做这个决定,那就太棒了!文章源自JAVA秀-https://www.javaxiu.com/33941.html

在这里,我会给出一种不用回头去查看沙箱测试数据就能计算出这个数的方法.文章源自JAVA秀-https://www.javaxiu.com/33941.html

设置你的测试配置:文章源自JAVA秀-https://www.javaxiu.com/33941.html

  • 线程数: 500文章源自JAVA秀-https://www.javaxiu.com/33941.html

  • 产能提升:40 分钟文章源自JAVA秀-https://www.javaxiu.com/33941.html

  • 迭代: 永久文章源自JAVA秀-https://www.javaxiu.com/33941.html

  • 时长: 50 分钟文章源自JAVA秀-https://www.javaxiu.com/33941.html

使用一个控制台和一个引擎.文章源自JAVA秀-https://www.javaxiu.com/33941.html

运行测试并(通过监视选项卡)对你的测试引擎进行监视.文章源自JAVA秀-https://www.javaxiu.com/33941.html

如果你的引擎对于75%的CPI使用率和85%的内存使用率都没有达到(一次性的峰值可以忽略) 的话:文章源自JAVA秀-https://www.javaxiu.com/33941.html

  • 将线程数调整到700在测试一次文章源自JAVA秀-https://www.javaxiu.com/33941.html

  • 提交线程的数量直到线程数达到1000或者60%的CPU或内存使用文章源自JAVA秀-https://www.javaxiu.com/33941.html

如果你的引擎过了75%的CPU使用率或者85%的内存使用率(一次性的峰值可以忽略 :文章源自JAVA秀-https://www.javaxiu.com/33941.html

  • 看看你第一次达到75%的点,在那个点有多少并发用户.文章源自JAVA秀-https://www.javaxiu.com/33941.html

  • 在运行一次测试, 而不是提高你之前500个用户数量的产能文章源自JAVA秀-https://www.javaxiu.com/33941.html

  • 这一次将产能提升放到真实的测试中(5-15 分钟是一个好的开始) 并将时长设置为50分钟.文章源自JAVA秀-https://www.javaxiu.com/33941.html

  • 确保整个测试过程中没有超过75%的CPU使用率或者85%的内存使用率...文章源自JAVA秀-https://www.javaxiu.com/33941.html

为安全起见,你可以把每个引擎的线程数降低10%的 .文章源自JAVA秀-https://www.javaxiu.com/33941.html

步骤5:安装并测试集群

我们现在知道了从一个引擎中我们得到了多少线程,在该章节的最后,我们将会知道一个集群能给我们提供多少用户。文章源自JAVA秀-https://www.javaxiu.com/33941.html

一个集群是指具有一个控制台(仅有一个)和0-14个引擎的逻辑容器。文章源自JAVA秀-https://www.javaxiu.com/33941.html

即使你可以创建一个使用超过14个引擎的测试案例——但实际上是创建了两个集群(你可以注意到控制台的数量增加了),并且克隆了你的测试案例……文章源自JAVA秀-https://www.javaxiu.com/33941.html

每个集群具有最多14个引擎,是基于BlazeMeter自己本身的测试,以确保控制台可以控制这14台引擎对新建的大量数据处理的压力。文章源自JAVA秀-https://www.javaxiu.com/33941.html

所以在这一步骤中,我们会用步骤4种的测试,并且仅仅修改引擎数量,将其增加到14.文章源自JAVA秀-https://www.javaxiu.com/33941.html

将该测试按照最终测试的全部时长运行。当测试在运行时,打开监听标签,并且检验:文章源自JAVA秀-https://www.javaxiu.com/33941.html

  1. 没有一个引擎超过CPU75%的占有率和内存85%占有率的上限;文章源自JAVA秀-https://www.javaxiu.com/33941.html

  2. 定位你的控制台标签(你可以通过一次点击Logs Tab->Network Information,查看控制台私有IP地址来找到它的名字)——它不应该达到CPU75%占有率和内存85%占有率的上限。文章源自JAVA秀-https://www.javaxiu.com/33941.html

如果你的控制台达到了该上限——减少引擎数量并重新运行直到控制台在该上限之下。文章源自JAVA秀-https://www.javaxiu.com/33941.html

在这个步骤的最后,你会发现:文章源自JAVA秀-https://www.javaxiu.com/33941.html

  1. 每个集群的用户数量;文章源自JAVA秀-https://www.javaxiu.com/33941.html

  2. 每个集群的命中率。文章源自JAVA秀-https://www.javaxiu.com/33941.html

查看Aggretate Table中的其他统计信息,并找到本地结果统计图来获得有关你集群吞吐量的更多信息。文章源自JAVA秀-https://www.javaxiu.com/33941.html

步骤 6 : 使用 Master / Slave 特性来达成你的最大CC目标

我们到了最后一步了。文章源自JAVA秀-https://www.javaxiu.com/33941.html

我们知道脚本正在运行,我们也知道一个引擎可以支持多少用户以及一个集群可以支持多少用户。文章源自JAVA秀-https://www.javaxiu.com/33941.html

让我们做一下假设:文章源自JAVA秀-https://www.javaxiu.com/33941.html

  • 一个引擎支持500用户文章源自JAVA秀-https://www.javaxiu.com/33941.html

  • 一个集群可以用户12个引擎文章源自JAVA秀-https://www.javaxiu.com/33941.html

  • 我们的目标是5万用户测试文章源自JAVA秀-https://www.javaxiu.com/33941.html

因此为了完成这些,我们需要8.3 个集群..文章源自JAVA秀-https://www.javaxiu.com/33941.html

我们可以用8个12台引擎的集群和一个4太引擎的集群 - 但是像下面这样分散负载应该会更好:文章源自JAVA秀-https://www.javaxiu.com/33941.html

每个集群我们用10台引擎而不是12,那么每个集群可以支持 10*500 = 5K 用户并且我们需要10个集群来支持5万用户。文章源自JAVA秀-https://www.javaxiu.com/33941.html

这样可以得到如下好处:文章源自JAVA秀-https://www.javaxiu.com/33941.html

  1. 不用维护两个不同的测试类型文章源自JAVA秀-https://www.javaxiu.com/33941.html

  2. 我们可以通过简单的复制现有集群来增加5K用户(5K比6K更常见)文章源自JAVA秀-https://www.javaxiu.com/33941.html

  3. 只要需要我们可以一直增加文章源自JAVA秀-https://www.javaxiu.com/33941.html

现在,我们已经准备好创建最终的5万用户级别的Master / Slave测试了:文章源自JAVA秀-https://www.javaxiu.com/33941.html

  1. 将测试的名称从"My prod test" 改为"My prod test - slave 1"。文章源自JAVA秀-https://www.javaxiu.com/33941.html

  2. 我们回到步骤5,将高级测试属性(Advanced Test Properties)下的Standalone修改为Slave。文章源自JAVA秀-https://www.javaxiu.com/33941.html

  3. 按保存按钮——现在我们有了一个Master和9个Slave中的一个。文章源自JAVA秀-https://www.javaxiu.com/33941.html

  4. 返回你的 "My prod test -slave 1".文章源自JAVA秀-https://www.javaxiu.com/33941.html

  5. 按复制按钮文章源自JAVA秀-https://www.javaxiu.com/33941.html

  6. 接下来重复步骤1-5直到你创建了9个slave。文章源自JAVA秀-https://www.javaxiu.com/33941.html

  7. 回到你的 "My prod test -salve 9" 并按复制按钮.文章源自JAVA秀-https://www.javaxiu.com/33941.html

  8. 将测试的名称改为 "My prod test -Master".文章源自JAVA秀-https://www.javaxiu.com/33941.html

  9. 将高级测试属性(Advanced Test Properties) 下的Slave改为Master。文章源自JAVA秀-https://www.javaxiu.com/33941.html

  10. 检查我们刚才创建的所有的Slave(My prod test -salve 1..9)并按保存。文章源自JAVA秀-https://www.javaxiu.com/33941.html

你的5万用户级别的Master-Slave测试已经准备好了。通过按master上的开始按钮来运行10个测试,每个测试5千用户。文章源自JAVA秀-https://www.javaxiu.com/33941.html

你可以修改任意一个测试(salve或master),让它们来自不同的区域,有不同的脚本/csv/以及其他文件,使用不同的网络模拟器,不同的参数等。文章源自JAVA秀-https://www.javaxiu.com/33941.html

你可以在一个叫“Master load results”的master报告中的一个新tab页中找到生成的聚合结果的报告,你还可以通过打开单个的报告来独立的查看每一个测试结果。文章源自JAVA秀-https://www.javaxiu.com/33941.html

英文原文:How to run a load test of 50k+ concurrent users文章源自JAVA秀-https://www.javaxiu.com/33941.html

参与翻译: LeoXu,  0x0bject,  麦壳原野,  中奖啦文章源自JAVA秀-https://www.javaxiu.com/33941.html

- END -文章源自JAVA秀-https://www.javaxiu.com/33941.html

文章源自JAVA秀-https://www.javaxiu.com/33941.html

欢迎加入我的知识星球,一起探讨架构,交流源码。加入方式,长按下方二维码噢文章源自JAVA秀-https://www.javaxiu.com/33941.html

硬核!如何模拟 5w+ 的并发用户?文章源自JAVA秀-https://www.javaxiu.com/33941.html

已在知识星球更新源码解析如下:文章源自JAVA秀-https://www.javaxiu.com/33941.html

硬核!如何模拟 5w+ 的并发用户?文章源自JAVA秀-https://www.javaxiu.com/33941.html

硬核!如何模拟 5w+ 的并发用户?文章源自JAVA秀-https://www.javaxiu.com/33941.html

硬核!如何模拟 5w+ 的并发用户?文章源自JAVA秀-https://www.javaxiu.com/33941.html

硬核!如何模拟 5w+ 的并发用户?文章源自JAVA秀-https://www.javaxiu.com/33941.html

最近更新《芋道 SpringBoot 2.X 入门》系列,已经 20 余篇,覆盖了 MyBatis、Redis、MongoDB、ES、分库分表、读写分离、SpringMVC、Webflux、权限、WebSocket、Dubbo、RabbitMQ、RocketMQ、Kafka、性能测试等等内容。文章源自JAVA秀-https://www.javaxiu.com/33941.html

提供近 3W 行代码的 SpringBoot 示例,以及超 4W 行代码的电商微服务项目。文章源自JAVA秀-https://www.javaxiu.com/33941.html

获取方式:点“在看”,关注公众号并回复 666 领取,更多内容陆续奉上。文章源自JAVA秀-https://www.javaxiu.com/33941.html

文章源自JAVA秀-https://www.javaxiu.com/33941.html

文章有帮助的话,在看,转发吧。谢谢支持哟 (*^__^*)
文章源自JAVA秀-https://www.javaxiu.com/33941.html

阅读原文文章源自JAVA秀-https://www.javaxiu.com/33941.html

继续阅读
速蛙云 - 极致体验,强烈推荐!!!购买套餐就免费送各大视频网站会员!快速稳定、独家福利社、流媒体稳定解锁!速度快,全球上网、视频、游戏加速、独立IP均支持!基础套餐性价比很高!这里不多说,我一直正在使用,推荐购买:https://www.javaxiu.com/59919.html
weinxin
资源分享QQ群
本站是JAVA秀团队的技术分享社区, 会经常分享资源和教程; 分享的时代, 请别再沉默!
沙海
匿名

发表评论

匿名网友 填写信息

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen:

确定