Java池化技术你了解多少?

沙海 2022年8月3日04:34:45Java评论1字数 8671阅读28分54秒阅读模式
摘要

智能摘要

智能摘要文章源自JAVA秀-https://www.javaxiu.com/71361.html

GenericObjectPool是对象池的核心类,通过传入一个对象池的配置和一个对象的工厂,即可快速创建对象池。参数很多,要想了解参数的意义,我们首先来看一下一个池化对象在整个池子中的生命周期。在同一个业务中,根据业务的属性,我们分了两个连接池,就是来处理这种情况的。我习惯性将缓存看作是数据对象,而把池中的对象看作是执行对象。HikariCP,它在池化技术之上,又通过编码技巧进行了进一步的性能提升,HikariCP是我重点研究的类库之一,我也建议你加入自己的任务清单中。文章源自JAVA秀-https://www.javaxiu.com/71361.html

原文约 7062 | 图片 11 | 建议阅读 15 分钟 | 评价反馈文章源自JAVA秀-https://www.javaxiu.com/71361.html

Java池化技术你了解多少?

点击关注 ? 芋道源码 文章源自JAVA秀-https://www.javaxiu.com/71361.html

收录于合集#芋道源码915个文章源自JAVA秀-https://www.javaxiu.com/71361.html

点击上方“芋道源码”,选择“设为星标文章源自JAVA秀-https://www.javaxiu.com/71361.html

管她前浪,还是后浪?文章源自JAVA秀-https://www.javaxiu.com/71361.html

能浪的浪,才是好浪!文章源自JAVA秀-https://www.javaxiu.com/71361.html

每天 10:33 更新文章,每天掉亿点点头发...文章源自JAVA秀-https://www.javaxiu.com/71361.html

文章源自JAVA秀-https://www.javaxiu.com/71361.html

源码精品专栏文章源自JAVA秀-https://www.javaxiu.com/71361.html

 文章源自JAVA秀-https://www.javaxiu.com/71361.html

文章源自JAVA秀-https://www.javaxiu.com/71361.html

来源:tomcat.blog.csdn.net/文章源自JAVA秀-https://www.javaxiu.com/71361.html

article/details/123867269文章源自JAVA秀-https://www.javaxiu.com/71361.html

在我们平常的编码中,通常会将一些对象保存起来,这主要考虑的是对象的创建成本。比如像线程资源、数据库连接资源或者 TCP 连接等,这类对象的初始化通常要花费比较长的时间,如果频繁地申请和销毁,就会耗费大量的系统资源,造成不必要的性能损失。文章源自JAVA秀-https://www.javaxiu.com/71361.html

并且这些对象都有一个显著的特征,就是通过轻量级的重置工作,可以循环、重复地使用。这个时候,我们就可以使用一个虚拟的池子,将这些资源保存起来,当使用的时候,我们就从池子里快速获取一个即可。文章源自JAVA秀-https://www.javaxiu.com/71361.html

在 Java 中,池化技术应用非常广泛,常见的就有数据库连接池、线程池等,本文主讲连接池,线程池我们将在后续的博客中进行介绍。文章源自JAVA秀-https://www.javaxiu.com/71361.html

公用池化包 Commons Pool 2

简介

我们首先来看一下 Java 中公用的池化包 Commons Pool 2,来了解一下对象池的一般结构。根据我们的业务需求,使用这套 API 能够很容易实现对象的池化管理。文章源自JAVA秀-https://www.javaxiu.com/71361.html

<!-- https://mvnrepository.com/artifact/org.apache.commons/commons-pool2 --><dependency>    <groupId>org.apache.commons</groupId>    <artifactId>commons-pool2</artifactId>    <version>2.11.1</version></dependency>

GenericObjectPool 是对象池的核心类,通过传入一个对象池的配置和一个对象的工厂,即可快速创建对象池。文章源自JAVA秀-https://www.javaxiu.com/71361.html

public GenericObjectPool(             final PooledObjectFactory<T> factory,             final GenericObjectPoolConfig<T> config)

基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能文章源自JAVA秀-https://www.javaxiu.com/71361.html

  • 项目地址:https://gitee.com/zhijiantianya/ruoyi-vue-pro文章源自JAVA秀-https://www.javaxiu.com/71361.html

  • 视频教程:https://doc.iocoder.cn/video/文章源自JAVA秀-https://www.javaxiu.com/71361.html

案例

Redis 的常用客户端 Jedis,就是使用 Commons Pool 管理连接池的,可以说是一个最佳实践。下图是 Jedis 使用工厂创建对象的主要代码块。对象工厂类最主要的方法就是makeObject,它的返回值是 PooledObject 类型,可以将对象使用 new DefaultPooledObject<>(obj) 进行简单包装返回。文章源自JAVA秀-https://www.javaxiu.com/71361.html

redis.clients.jedis.JedisFactory,使用工厂创建对象。文章源自JAVA秀-https://www.javaxiu.com/71361.html

@Overridepublic PooledObject<Jedis> makeObject() throws Exception {  Jedis jedis = null;  try {    jedis = new Jedis(jedisSocketFactory, clientConfig);    //主要的耗时操作    jedis.connect();    //返回包装对象    return new DefaultPooledObject<>(jedis);  } catch (JedisException je) {    if (jedis != null) {      try {        jedis.quit();      } catch (RuntimeException e) {        logger.warn("Error while QUIT", e);      }      try {        jedis.close();      } catch (RuntimeException e) {        logger.warn("Error while close", e);      }    }    throw je;  }}

我们再来介绍一下对象的生成过程,如下图,对象在进行获取时,将首先尝试从对象池里拿出一个,如果对象池中没有空闲的对象,就使用工厂类提供的方法,生成一个新的。文章源自JAVA秀-https://www.javaxiu.com/71361.html

public T borrowObject(final Duration borrowMaxWaitDuration) throws Exception {    //此处省略若干行    while (p == null) {        create = false;        //首先尝试从池子中获取。        p = idleObjects.pollFirst();        // 池子里获取不到,才调用工厂内生成新实例        if (p == null) {            p = create();            if (p != null) {                create = true;            }        }        //此处省略若干行    }    //此处省略若干行}

那对象是存在什么地方的呢?这个存储的职责,就是由一个叫作 LinkedBlockingDeque的结构来承担的,它是一个双向的队列。文章源自JAVA秀-https://www.javaxiu.com/71361.html

接下来看一下 GenericObjectPoolConfig 的主要属性:文章源自JAVA秀-https://www.javaxiu.com/71361.html

// GenericObjectPoolConfig本身的属性private int maxTotal = DEFAULT_MAX_TOTAL;private int maxIdle = DEFAULT_MAX_IDLE;private int minIdle = DEFAULT_MIN_IDLE;// 其父类BaseObjectPoolConfig的属性private boolean lifo = DEFAULT_LIFO;private boolean fairness = DEFAULT_FAIRNESS;private long maxWaitMillis = DEFAULT_MAX_WAIT_MILLIS;private long minEvictableIdleTimeMillis = DEFAULT_MIN_EVICTABLE_IDLE_TIME_MILLIS;private long evictorShutdownTimeoutMillis = DEFAULT_EVICTOR_SHUTDOWN_TIMEOUT_MILLIS;private long softMinEvictableIdleTimeMillis = DEFAULT_SOFT_MIN_EVICTABLE_IDLE_TIME_MILLIS;private int numTestsPerEvictionRun = DEFAULT_NUM_TESTS_PER_EVICTION_RUN;private EvictionPolicy<T> evictionPolicy = null; // Only 2.6.0 applications set this private String evictionPolicyClassName = DEFAULT_EVICTION_POLICY_CLASS_NAME;private boolean testOnCreate = DEFAULT_TEST_ON_CREATE;private boolean testOnBorrow = DEFAULT_TEST_ON_BORROW;private boolean testOnReturn = DEFAULT_TEST_ON_RETURN;private boolean testWhileIdle = DEFAULT_TEST_WHILE_IDLE;private long timeBetweenEvictionRunsMillis = DEFAULT_TIME_BETWEEN_EVICTION_RUNS_MILLIS;private boolean blockWhenExhausted = DEFAULT_BLOCK_WHEN_EXHAUSTED;

参数很多,要想了解参数的意义,我们首先来看一下一个池化对象在整个池子中的生命周期。如下图所示,池子的操作主要有两个:一个是业务线程,一个是检测线程。文章源自JAVA秀-https://www.javaxiu.com/71361.html

Java池化技术你了解多少?文章源自JAVA秀-https://www.javaxiu.com/71361.html

对象池在进行初始化时,要指定三个主要的参数:文章源自JAVA秀-https://www.javaxiu.com/71361.html

  • maxTotal 对象池中管理的对象上限文章源自JAVA秀-https://www.javaxiu.com/71361.html

  • maxIdle 最大空闲数文章源自JAVA秀-https://www.javaxiu.com/71361.html

  • minIdle 最小空闲数文章源自JAVA秀-https://www.javaxiu.com/71361.html

其中 maxTotal 和业务线程有关,当业务线程想要获取对象时,会首先检测是否有空闲的对象。如果有,则返回一个;否则进入创建逻辑。此时,如果池中个数已经达到了最大值,就会创建失败,返回空对象。文章源自JAVA秀-https://www.javaxiu.com/71361.html

对象在获取的时候,有一个非常重要的参数,那就是最大等待时间(maxWaitMillis),这个参数对应用方的性能影响是比较大的。该参数默认为 -1,表示永不超时,直到有对象空闲。文章源自JAVA秀-https://www.javaxiu.com/71361.html

如下图,如果对象创建非常缓慢或者使用非常繁忙,业务线程会持续阻塞 (blockWhenExhausted 默认为 true),进而导致正常服务也不能运行。文章源自JAVA秀-https://www.javaxiu.com/71361.html

Java池化技术你了解多少?文章源自JAVA秀-https://www.javaxiu.com/71361.html

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能文章源自JAVA秀-https://www.javaxiu.com/71361.html

  • 项目地址:https://gitee.com/zhijiantianya/yudao-cloud文章源自JAVA秀-https://www.javaxiu.com/71361.html

  • 视频教程:https://doc.iocoder.cn/video/文章源自JAVA秀-https://www.javaxiu.com/71361.html

面试题

一般面试官会问:你会把超时参数设置成多大呢?文章源自JAVA秀-https://www.javaxiu.com/71361.html

我一般都会把最大等待时间,设置成接口可以忍受的最大延迟。比如,一个正常服务响应时间 10ms 左右,达到 1 秒钟就会感觉到卡顿,那么这个参数设置成 500~1000ms 都是可以的。超时之后,会抛出 NoSuchElementException 异常,请求会快速失败,不会影响其他业务线程,这种 Fail Fast 的思想,在互联网应用非常广泛。文章源自JAVA秀-https://www.javaxiu.com/71361.html

带有evcit 字样的参数,主要是处理对象逐出的。池化对象除了初始化和销毁的时候比较昂贵,在运行时也会占用系统资源。比如,连接池会占用多条连接,线程池会增加调度开销等。业务在突发流量下,会申请到超出正常情况的对象资源,放在池子中。等这些对象不再被使用,我们就需要把它清理掉。文章源自JAVA秀-https://www.javaxiu.com/71361.html

超出 minEvictableIdleTimeMillis 参数指定值的对象,就会被强制回收掉,这个值默认是 30 分钟;softMinEvictableIdleTimeMillis 参数类似,但它只有在当前对象数量大于 minIdle 的时候才会执行移除,所以前者的动作要更暴力一些。文章源自JAVA秀-https://www.javaxiu.com/71361.html

还有 4 个 test 参数:testOnCreatetestOnBorrowtestOnReturntestWhileIdle,分别指定了在创建、获取、归还、空闲检测的时候,是否对池化对象进行有效性检测。文章源自JAVA秀-https://www.javaxiu.com/71361.html

开启这些检测,能保证资源的有效性,但它会耗费性能,所以默认为 false。生产环境上,建议只将 testWhileIdle 设置为 true,并通过调整空闲检测时间间隔(timeBetweenEvictionRunsMillis),比如 1 分钟,来保证资源的可用性,同时也保证效率。文章源自JAVA秀-https://www.javaxiu.com/71361.html

JMH 测试

使用连接池和不使用连接池,它们之间的性能差距到底有多大呢?下面是一个简单的 JMH 测试例子(见仓库),进行一个简单的 set 操作,为 redis 的 key 设置一个随机值。文章源自JAVA秀-https://www.javaxiu.com/71361.html

@Fork(2) @State(Scope.Benchmark) @Warmup(iterations = 5, time = 1) @Measurement(iterations = 5, time = 1) @BenchmarkMode(Mode.Throughput) public class JedisPoolVSJedisBenchmark {    JedisPool pool = new JedisPool("localhost", 6379);    @Benchmark    public void testPool() {        Jedis jedis = pool.getResource();        jedis.set("a", UUID.randomUUID().toString());        jedis.close();    }    @Benchmark    public void testJedis() {        Jedis jedis = new Jedis("localhost", 6379);        jedis.set("a", UUID.randomUUID().toString());        jedis.close();    }    //此处省略若干行}

将测试结果使用 meta-chart 作图,展示结果如下图所示,可以看到使用了连接池的方式,它的吞吐量是未使用连接池方式的 5 倍!文章源自JAVA秀-https://www.javaxiu.com/71361.html

Java池化技术你了解多少?文章源自JAVA秀-https://www.javaxiu.com/71361.html

数据库连接池 HikariCP

HikariCP 源于日语“光る”,光的意思,寓意软件工作速度和光速一样快,它是 SpringBoot 中默认的数据库连接池。数据库是我们工作中经常使用到的组件,针对数据库设计的客户端连接池是非常多的,它的设计原理与我们在本文开头提到的基本一致,可以有效地减少数据库连接创建、销毁的资源消耗。文章源自JAVA秀-https://www.javaxiu.com/71361.html

同是连接池,它们的性能也是有差别的,下图是 HikariCP 官方的一张测试图,可以看到它优异的性能,官方的 JMH 测试代码见 Github。文章源自JAVA秀-https://www.javaxiu.com/71361.html

Java池化技术你了解多少?一般面试题是这么问的:HikariCP 为什么快呢?主要有三个方面:文章源自JAVA秀-https://www.javaxiu.com/71361.html

  • 它使用 FastList 替代 ArrayList,通过初始化的默认值,减少了越界检查的操作;文章源自JAVA秀-https://www.javaxiu.com/71361.html

  • 优化并精简了字节码,通过使用 Javassist,减少了动态代理的性能损耗,比如使用 invokestatic 指令代替 invokevirtual 指令;文章源自JAVA秀-https://www.javaxiu.com/71361.html

  • 实现了无锁的 ConcurrentBag,减少了并发场景下的锁竞争。文章源自JAVA秀-https://www.javaxiu.com/71361.html

HikariCP 对性能的一些优化操作,是非常值得我们借鉴的,在之后的博客中,我们将详细分析几个优化场景。文章源自JAVA秀-https://www.javaxiu.com/71361.html

数据库连接池同样面临一个最大值(maximumPoolSize)和最小值(minimumIdle)的问题。这里同样有一个非常高频的面试题:你平常会把连接池设置成多大呢?文章源自JAVA秀-https://www.javaxiu.com/71361.html

很多同学认为,连接池的大小设置得越大越好,有的同学甚至把这个值设置成 1000 以上,这是一种误解。根据经验,数据库连接,只需要 20~50 个就够用了。具体的大小,要根据业务属性进行调整,但大得离谱肯定是不合适的。文章源自JAVA秀-https://www.javaxiu.com/71361.html

HikariCP 官方是不推荐设置 minimumIdle 这个值的,它将被默认设置成和 maximumPoolSize 一样的大小。如果你的数据库Server端连接资源空闲较大,不妨也可以去掉连接池的动态调整功能。文章源自JAVA秀-https://www.javaxiu.com/71361.html

另外,根据数据库查询和事务类型,一个应用中是可以配置多个数据库连接池的,这个优化技巧很少有人知道,在此简要描述一下。文章源自JAVA秀-https://www.javaxiu.com/71361.html

业务类型通常有两种:一种需要快速的响应时间,把数据尽快返回给用户;另外一种是可以在后台慢慢执行,耗时比较长,对时效性要求不高。如果这两种业务类型,共用一个数据库连接池,就容易发生资源争抢,进而影响接口响应速度。虽然微服务能够解决这种情况,但大多数服务是没有这种条件的,这时就可以对连接池进行拆分。文章源自JAVA秀-https://www.javaxiu.com/71361.html

如图,在同一个业务中,根据业务的属性,我们分了两个连接池,就是来处理这种情况的。文章源自JAVA秀-https://www.javaxiu.com/71361.html

Java池化技术你了解多少?文章源自JAVA秀-https://www.javaxiu.com/71361.html

HikariCP 还提到了另外一个知识点,在 JDBC4 的协议中,通过 Connection.isValid() 就可以检测连接的有效性。这样,我们就不用设置一大堆的 test 参数了,HikariCP 也没有提供这样的参数。文章源自JAVA秀-https://www.javaxiu.com/71361.html

结果缓存池

到了这里你可能会发现池(Pool)与缓存(Cache)有许多相似之处。文章源自JAVA秀-https://www.javaxiu.com/71361.html

它们之间的一个共同点,就是将对象加工后,存储在相对高速的区域。我习惯性将缓存看作是数据对象,而把池中的对象看作是执行对象。缓存中的数据有一个命中率问题,而池中的对象一般都是对等的。文章源自JAVA秀-https://www.javaxiu.com/71361.html

考虑下面一个场景,jsp 提供了网页的动态功能,它可以在执行后,编译成 class 文件,加快执行速度;再或者,一些媒体平台,会将热门文章,定时转化成静态的 html 页面,仅靠 nginx 的负载均衡即可应对高并发请求(动静分离)。文章源自JAVA秀-https://www.javaxiu.com/71361.html

这些时候,你很难说清楚,这是针对缓存的优化,还是针对对象进行了池化,它们在本质上只是保存了某个执行步骤的结果,使得下次访问时不需要从头再来。我通常把这种技术叫作结果缓存池(Result Cache Pool),属于多种优化手段的综合。文章源自JAVA秀-https://www.javaxiu.com/71361.html

小结

下面我来简单总结一下本文的内容重点:文章源自JAVA秀-https://www.javaxiu.com/71361.html

我们从 Java 中最通用的公用池化包 Commons Pool 2 说起,介绍了它的一些实现细节,并对一些重要参数的应用做了讲解;Jedis 就是在 Commons Pool 2 的基础上封装的,通过 JMH 测试,我们发现对象池化之后,有了接近 5 倍的性能提升;接下来介绍了数据库连接池中速度速快的 HikariCP ,它在池化技术之上,又通过编码技巧进行了进一步的性能提升,HikariCP 是我重点研究的类库之一,我也建议你加入自己的任务清单中。文章源自JAVA秀-https://www.javaxiu.com/71361.html

总体来说,当你遇到下面的场景,就可以考虑使用池化来增加系统性能:文章源自JAVA秀-https://www.javaxiu.com/71361.html

  • 对象的创建或者销毁,需要耗费较多的系统资源;文章源自JAVA秀-https://www.javaxiu.com/71361.html

  • 对象的创建或者销毁,耗时长,需要繁杂的操作和较长时间的等待;文章源自JAVA秀-https://www.javaxiu.com/71361.html

  • 对象创建后,通过一些状态重置,可被反复使用。文章源自JAVA秀-https://www.javaxiu.com/71361.html

将对象池化之后,只是开启了第一步优化。要想达到最优性能,就不得不调整池的一些关键参数,合理的池大小加上合理的超时时间,就可以让池发挥更大的价值。和缓存的命中率类似,对池的监控也是非常重要的。文章源自JAVA秀-https://www.javaxiu.com/71361.html

如下图,可以看到数据库连接池连接数长时间保持在高位不释放,同时等待的线程数急剧增加,这就能帮我们快速定位到数据库的事务问题。文章源自JAVA秀-https://www.javaxiu.com/71361.html

Java池化技术你了解多少?文章源自JAVA秀-https://www.javaxiu.com/71361.html

平常的编码中,有很多类似的场景。比如 Http 连接池,OkhttpHttpclient 就都提供了连接池的概念,你可以类比着去分析一下,关注点也是在连接大小和超时时间上;在底层的中间件,比如 RPC,也通常使用连接池技术加速资源获取,比如 Dubbo 连接池、 Feign 切换成 httppclient 的实现等技术。文章源自JAVA秀-https://www.javaxiu.com/71361.html

你会发现,在不同资源层面的池化设计也是类似的。比如线程池,通过队列对任务进行了二层缓冲,提供了多样的拒绝策略等,线程池我们将在后续的文章中进行介绍。文章源自JAVA秀-https://www.javaxiu.com/71361.html

线程池的这些特性,你同样可以借鉴到连接池技术中,用来缓解请求溢出,创建一些溢出策略。现实情况中,我们也会这么做。那么具体怎么做?有哪些做法?这部分内容就留给大家思考了。文章源自JAVA秀-https://www.javaxiu.com/71361.html

欢迎加入我的知识星球,一起探讨架构,交流源码。加入方式,长按下方二维码噢文章源自JAVA秀-https://www.javaxiu.com/71361.html

Java池化技术你了解多少?文章源自JAVA秀-https://www.javaxiu.com/71361.html

已在知识星球更新源码解析如下:文章源自JAVA秀-https://www.javaxiu.com/71361.html

Java池化技术你了解多少?文章源自JAVA秀-https://www.javaxiu.com/71361.html

Java池化技术你了解多少?文章源自JAVA秀-https://www.javaxiu.com/71361.html

Java池化技术你了解多少?文章源自JAVA秀-https://www.javaxiu.com/71361.html

Java池化技术你了解多少?文章源自JAVA秀-https://www.javaxiu.com/71361.html

最近更新《芋道 SpringBoot 2.X 入门》系列,已经 101 余篇,覆盖了 MyBatis、Redis、MongoDB、ES、分库分表、读写分离、SpringMVC、Webflux、权限、WebSocket、Dubbo、RabbitMQ、RocketMQ、Kafka、性能测试等等内容。文章源自JAVA秀-https://www.javaxiu.com/71361.html

提供近 3W 行代码的 SpringBoot 示例,以及超 4W 行代码的电商微服务项目。文章源自JAVA秀-https://www.javaxiu.com/71361.html

获取方式:点“在看”,关注公众号并回复 666 领取,更多内容陆续奉上。文章源自JAVA秀-https://www.javaxiu.com/71361.html

文章源自JAVA秀-https://www.javaxiu.com/71361.html

文章有帮助的话,在看,转发吧。谢谢支持哟 (*^__^*)
文章源自JAVA秀-https://www.javaxiu.com/71361.html
继续阅读
速蛙云 - 极致体验,强烈推荐!!!购买套餐就免费送各大视频网站会员!快速稳定、独家福利社、流媒体稳定解锁!速度快,全球上网、视频、游戏加速、独立IP均支持!基础套餐性价比很高!这里不多说,我一直正在使用,推荐购买:https://www.javaxiu.com/59919.html
weinxin
资源分享QQ群
本站是JAVA秀团队的技术分享社区, 会经常分享资源和教程; 分享的时代, 请别再沉默!
沙海
  • 版权声明:本站是JAVA秀团队的技术分享社区,我们会经常分享资源和教程。
  • 转载请注明:Java池化技术你了解多少? - JAVA秀 ☜(ˆ▽ˆ)
匿名

发表评论

匿名网友 填写信息

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen:

确定