使用 Redis 实现一个轻量级的搜索引擎，牛逼啊 !

沙海
沙海
沙海
3184
文章
2
评论
2021年4月25日05:04:16Java评论54字数 3416阅读11分23秒阅读模式
摘要

速读摘要

速读摘要文章源自JAVA秀-https://www.javaxiu.com/20347.html

就搞定了，但有的查询条件极其复杂，再加上库表中设计的各种不合理，导致查询接口特别难写，然后加班什么的就不用说了(不知各位有没有这种感受呢~)。各大类条件之间是取的交集，各子类中有单选、多选、以及自定义的情况，最终输出符合条件的结果集。这里每个条件都事先将计算好的结果集ID存入对应的key中，选用的数据结构是集合(Set)。赋结果集权重为0，商品时间结果为1，取交集而得的结果集赋予创建时间分值的新有序集合。文章源自JAVA秀-https://www.javaxiu.com/20347.html

原文约 5112 字 | 图片 9 张 | 建议阅读 11 分钟 | 评价反馈文章源自JAVA秀-https://www.javaxiu.com/20347.html

使用 Redis 实现一个轻量级的搜索引擎，牛逼啊 !

点击关注 ? Java基基 文章源自JAVA秀-https://www.javaxiu.com/20347.html

收录于话题文章源自JAVA秀-https://www.javaxiu.com/20347.html

#Java基基文章源自JAVA秀-https://www.javaxiu.com/20347.html

28个文章源自JAVA秀-https://www.javaxiu.com/20347.html

点击上方“Java基基”，选择“设为星标”文章源自JAVA秀-https://www.javaxiu.com/20347.html

做积极的人，而不是积极废人！文章源自JAVA秀-https://www.javaxiu.com/20347.html

文章源自JAVA秀-https://www.javaxiu.com/20347.html

源码精品专栏文章源自JAVA秀-https://www.javaxiu.com/20347.html

 文章源自JAVA秀-https://www.javaxiu.com/20347.html

文章源自JAVA秀-https://www.javaxiu.com/20347.html

来源：github.com/jasonGeng88/blog/文章源自JAVA秀-https://www.javaxiu.com/20347.html

blob/master/201706/redis-search.md文章源自JAVA秀-https://www.javaxiu.com/20347.html

  • 场景文章源自JAVA秀-https://www.javaxiu.com/20347.html

  • 实现1文章源自JAVA秀-https://www.javaxiu.com/20347.html

  • 实现2文章源自JAVA秀-https://www.javaxiu.com/20347.html

  • 实现3文章源自JAVA秀-https://www.javaxiu.com/20347.html

  • 扩展文章源自JAVA秀-https://www.javaxiu.com/20347.html

    • 分页文章源自JAVA秀-https://www.javaxiu.com/20347.html

    • 数据更新文章源自JAVA秀-https://www.javaxiu.com/20347.html

    • 性能优化文章源自JAVA秀-https://www.javaxiu.com/20347.html

  • 总结文章源自JAVA秀-https://www.javaxiu.com/20347.html

大家好，我是基基。文章源自JAVA秀-https://www.javaxiu.com/20347.html

使用 Redis 实现一个轻量级的搜索引擎，牛逼啊 !文章源自JAVA秀-https://www.javaxiu.com/20347.html

文章源自JAVA秀-https://www.javaxiu.com/20347.html

文章源自JAVA秀-https://www.javaxiu.com/20347.html

场景

大家如果是做后端开发的，想必都实现过列表查询的接口，当然有的查询条件很简单，一条 SQL 就搞定了，但有的查询条件极其复杂，再加上库表中设计的各种不合理，导致查询接口特别难写，然后加班什么的就不用说了（不知各位有没有这种感受呢~）。文章源自JAVA秀-https://www.javaxiu.com/20347.html

下面以一个例子开始，这是某购物网站的搜索条件，如果让你实现这样的一个搜索接口，你会如何实现？（当然你说借助搜索引擎，像 Elasticsearch 之类的，你完全可以实现。但我这里想说的是，如果要你自己实现呢？）文章源自JAVA秀-https://www.javaxiu.com/20347.html

使用 Redis 实现一个轻量级的搜索引擎，牛逼啊 !文章源自JAVA秀-https://www.javaxiu.com/20347.html

从上图中可以看出，搜索总共分为6大类，每大类中又分了各个子类。这中间，各大类条件之间是取的交集，各子类中有单选、多选、以及自定义的情况，最终输出符合条件的结果集。文章源自JAVA秀-https://www.javaxiu.com/20347.html

好了，既然需求很明确了，我们就开始来实现。文章源自JAVA秀-https://www.javaxiu.com/20347.html

实现1

率先登场是小A同学，他是写 SQL 方面的“专家”。小A信心满满的说：“不就是一个查询接口吗？看着条件很多，但凭着我丰富的 SQL 经验，这点还是难不倒我的。”文章源自JAVA秀-https://www.javaxiu.com/20347.html

于是乎就写出了下面这段代码（这里以 MYSQL 为例）：文章源自JAVA秀-https://www.javaxiu.com/20347.html

select ... from table_1left join table_2left join table_3left join (select ... from table_x where ...) tmp_1...where ...order by ...limit m,n

代码在测试环境跑了一把，结果好像都匹配上了，于是准备上预发。这一上预发，问题就开始暴露出来。预发为了尽可能的逼真线上环境，所以数据量自然而然要比测试大的多。所以这么一个复杂的 SQL，它的执行效率可想而知。测试同学果断把小A的代码给打了回来。文章源自JAVA秀-https://www.javaxiu.com/20347.html

实现2

总结了小A失败的教训，小B开始对SQL进行了优化，先是通过了explain关键字进行SQL性能分析，对该加索引的地方都加上了索引。同时将一条复杂SQL拆分成了多条SQL，计算结果在程序内存中进行计算。文章源自JAVA秀-https://www.javaxiu.com/20347.html

伪代码如下：文章源自JAVA秀-https://www.javaxiu.com/20347.html

$result_1 = query('select ... from table_1 where ...');$result_2 = query('select ... from table_2 where ...');$result_3 = query('select ... from table_3 where ...');...$result = array_intersect($result_1, $result_2, $result_3, ...);

这种方案从性能上明显比第一种要好很多，可是在功能验收的时候，产品经理还是觉得查询速度不够快。小B自己也知道，每次查询都会向数据库查询多次，而且有些历史原因，部分条件是做不到单表查询的，所以查询等待的时间是避免不了的。文章源自JAVA秀-https://www.javaxiu.com/20347.html

实现3

小C从上面的方案中看到了优化的空间。他发现小B在思路上是没问题的，将复杂条件拆分，计算各个子维度的结果集，最后将所有的子结果集进行一个汇总合并，得到最终想要的结果。文章源自JAVA秀-https://www.javaxiu.com/20347.html

于是他突发奇想，能否事先将各个子维度的结果集给缓存起来，这要查询的时候直接去取想要的子集，而不用每次去查库计算。文章源自JAVA秀-https://www.javaxiu.com/20347.html

这里小C采用 Redis 来存储缓存数据，用它的主要原因是，它提供了多种数据结构，并且在 Redis 中进行集合的交并集操作是一件很容易的事情。文章源自JAVA秀-https://www.javaxiu.com/20347.html

具体方案，如图所示：文章源自JAVA秀-https://www.javaxiu.com/20347.html

这里每个条件都事先将计算好的结果集ID存入对应的key中，选用的数据结构是集合（Set）。查询操作包括：文章源自JAVA秀-https://www.javaxiu.com/20347.html

  • 子类单选：直接根据条件 key，获取对应结果集；文章源自JAVA秀-https://www.javaxiu.com/20347.html

  • 子类多选：根据多个条件 Key，进行并集操作，获取对应结果集；文章源自JAVA秀-https://www.javaxiu.com/20347.html

  • 最终结果：将获取的所有子类结果集进行交集操作，得到最终结果；文章源自JAVA秀-https://www.javaxiu.com/20347.html

*这其实就是所谓的反向索引。 *文章源自JAVA秀-https://www.javaxiu.com/20347.html

这里会发现，漏了一个价格的条件。从需求中可知，价格条件是个区间，并且是无穷举的。所以上述的这种穷举条件的 Key-Value 方式是做不到的。这里我们采用 Redis 的另一种数据结构进行实现，有序集合（Sorted Set）：文章源自JAVA秀-https://www.javaxiu.com/20347.html

使用 Redis 实现一个轻量级的搜索引擎，牛逼啊 !文章源自JAVA秀-https://www.javaxiu.com/20347.html

将所有商品加入 Key 为价格的有序集合中，值为商品ID，每个值对应的分数为商品价格的数值。这样在 Redis 的有序集合中就可以通过ZRANGEBYSCORE命令，根据分数（价格）区间，获取相应结果集。文章源自JAVA秀-https://www.javaxiu.com/20347.html

至此，方案三的优化已全部结束，将数据的查询与计算通过缓存的手段，进行了分离。在每次查找时，只需要简单的查找 Redis 几次就能得出结果。查询速度上符合了验收的要求。文章源自JAVA秀-https://www.javaxiu.com/20347.html

扩展

分页

这里你或许发现了一个严重的功能缺陷，列表查询怎么能没有分页。是的，我们马上来看 Redis 是如何实现分页的。文章源自JAVA秀-https://www.javaxiu.com/20347.html

分页主要涉及排序，这里简单起见，就以创建时间为例。文章源自JAVA秀-https://www.javaxiu.com/20347.html

如图所示：文章源自JAVA秀-https://www.javaxiu.com/20347.html

使用 Redis 实现一个轻量级的搜索引擎，牛逼啊 !文章源自JAVA秀-https://www.javaxiu.com/20347.html

图中蓝色部分是以创建时间为分值的商品有序集合，蓝色下方的结果集即为条件计算而得的结果，通过ZINTERSTORE命令，赋结果集权重为0，商品时间结果为1，取交集而得的结果集赋予创建时间分值的新有序集合。对新结果集的操作即能得到分页所需的各个数据：文章源自JAVA秀-https://www.javaxiu.com/20347.html

  • 页面总数为：ZCOUNT命令文章源自JAVA秀-https://www.javaxiu.com/20347.html

  • 当前页内容：ZRANGE命令文章源自JAVA秀-https://www.javaxiu.com/20347.html

  • 若以倒序排列：ZREVRANGE命令文章源自JAVA秀-https://www.javaxiu.com/20347.html

数据更新

关于索引数据更新的问题，有两种方式来进行。一种是通过商品数据的修改，来即时触发更新操作，一种是通过定时脚本来进行批量更新。这里要注意的是，关于索引内容的更新，如果暴力的删除 Key，再重新设置 Key。因为 Redis 中两个操作不会是原子性进行的，所以中间可能存在空白间隙，建议采用仅移除集合中失效元素，添加新元素的方式进行。文章源自JAVA秀-https://www.javaxiu.com/20347.html

性能优化

Redis 是内存级操作，所以单次的查询会很快。但是如果我们的实现中会进行多次的 Redis 操作，Redis 的多次连接时间可能是不必要时间消耗。通过使用MULTI命令，开启一个事务，将 Redis 的多次操作放在一个事务中，最后通过EXEC来进行原子性执行（*注意：这里所谓的事务，只是将多个操作在一次连接中执行，如果执行过程中遇到失败，是不会回滚的 *）。文章源自JAVA秀-https://www.javaxiu.com/20347.html

总结

这里只是一个采用 Redis 优化查询搜索的一个简单 Demo，和现有的开源搜索引擎相比，它更轻量，学习成本页相应低些。其次，它的一些思想与开源搜索引擎是类似的，如果再加上词语解析，也可以实现类似全文检索的功能。文章源自JAVA秀-https://www.javaxiu.com/20347.html

最后，未完，待续。。。文章源自JAVA秀-https://www.javaxiu.com/20347.html

文章源自JAVA秀-https://www.javaxiu.com/20347.html

欢迎加入我的知识星球，一起探讨架构，交流源码。加入方式，长按下方二维码噢：文章源自JAVA秀-https://www.javaxiu.com/20347.html

使用 Redis 实现一个轻量级的搜索引擎，牛逼啊 !文章源自JAVA秀-https://www.javaxiu.com/20347.html

已在知识星球更新源码解析如下：文章源自JAVA秀-https://www.javaxiu.com/20347.html

使用 Redis 实现一个轻量级的搜索引擎，牛逼啊 !文章源自JAVA秀-https://www.javaxiu.com/20347.html

使用 Redis 实现一个轻量级的搜索引擎，牛逼啊 !文章源自JAVA秀-https://www.javaxiu.com/20347.html

使用 Redis 实现一个轻量级的搜索引擎，牛逼啊 !文章源自JAVA秀-https://www.javaxiu.com/20347.html

使用 Redis 实现一个轻量级的搜索引擎，牛逼啊 !文章源自JAVA秀-https://www.javaxiu.com/20347.html

最近更新《芋道 SpringBoot 2.X 入门》系列，已经 20 余篇，覆盖了 MyBatis、Redis、MongoDB、ES、分库分表、读写分离、SpringMVC、Webflux、权限、WebSocket、Dubbo、RabbitMQ、RocketMQ、Kafka、性能测试等等内容。文章源自JAVA秀-https://www.javaxiu.com/20347.html

提供近 3W 行代码的 SpringBoot 示例，以及超 4W 行代码的电商微服务项目。文章源自JAVA秀-https://www.javaxiu.com/20347.html

获取方式：点“在看”，关注公众号并回复 666 领取，更多内容陆续奉上。文章源自JAVA秀-https://www.javaxiu.com/20347.html

文章源自JAVA秀-https://www.javaxiu.com/20347.html

文章有帮助的话，在看，转发吧。谢谢支持哟 (*^__^*）
文章源自JAVA秀-https://www.javaxiu.com/20347.html

阅读原文文章源自JAVA秀-https://www.javaxiu.com/20347.html

继续阅读
历史上的今天
4月
25
速蛙云 - 极致体验，强烈推荐！！！购买套餐就免费送各大视频网站会员！快速稳定、独家福利社、流媒体稳定解锁！速度快，全球上网、视频、游戏加速、独立IP均支持！基础套餐性价比很高！这里不多说，我一直正在使用，推荐购买：https://www.javaxiu.com/59919.html
weinxin
资源分享QQ群
本站是JAVA秀团队的技术分享社区, 会经常分享资源和教程; 分享的时代, 请别再沉默！
沙海
匿名

发表评论

匿名网友 填写信息

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen:

确定