上面这句介绍比较全面的描述了什么是布隆过滤器,如果还是不太好理解的话,就可以把布隆过滤器理解为一个set集合,我们可以通过add往里面添加元素,通过contains来判断是否包含某个元素。由于本文讲述布隆过滤器时会结合Redis来讲解,因此类比为Redis中的Set数据结构会比较好理解,而且Redis中的布隆过滤器使用的指令与Set集合非常类似(后续会讲到)。
学习布隆过滤器之前有必要先聊下它的优缺点,因为好的东西我们才想要嘛!布隆过滤器的优点:
布隆过滤器的缺点:
布隆过滤器可以告诉我们“某样东西一定不存在或者可能存在”,也就是说布隆过滤器说这个数不存在则一定不存,布隆过滤器说这个数存在可能不存在(误判,后续会讲),**利用这个判断是否存在的特点可以做很多有趣的事情。
布隆过滤器它实际上是一个很长的二进制向量和一系列随机映射函数。以Redis中的布隆过滤器实现为例,Redis中的布隆过滤器底层是一个大型位数组(二进制数组)+多个无偏hash函数。一个大型位数组(二进制数组):
多个无偏hash函数:无偏hash函数就是能把元素的hash值计算的比较均匀的hash函数,能使得计算后的元素下标比较均匀的映射到位数组中。
如下就是一个简单的布隆过滤器示意图,其中k1、k2代表增加的元素,a、b、c即为无偏hash函数,最下层则为二进制数组。
在布隆过滤器增加元素之前,首先需要初始化布隆过滤器的空间,也就是上面说的二进制数组,除此之外还需要计算无偏hash函数的个数。布隆过滤器提供了两个参数,分别是预计加入元素的大小n,运行的错误率f。布隆过滤器中有算法根据这两个参数会计算出二进制数组的大小l,以及无偏hash函数的个数k。它们之间的关系比较简单:
如下地址是一个免费的在线布隆过滤器在线计算的网址:
往布隆过滤器增加元素,添加的key需要根据k个无偏hash函数计算得到多个hash值,然后对数组长度进行取模得到数组下标的位置,然后将对应数组下标的位置的值置为1
例如,key=Liziba,无偏hash函数的个数k=3,分别为hash1、hash2、hash3。三个hash函数计算后得到三个数组下标值,并将其值修改为1.如图所示:
布隆过滤器最大的用处就在于判断某样东西一定不存在或者可能存在,而这个就是查询元素的结果。其查询元素的过程如下:
关于误判,其实非常好理解,hash函数在怎么好,也无法完全避免hash冲突,也就是说可能会存在多个元素计算的hash值是相同的,那么它们取模数组长度后的到的数组索引也是相同的,这就是误判的原因。例如李子捌和李子柒的hash值取模后得到的数组索引都是1,但其实这里只有李子捌,如果此时判断李子柒在不在这里,误判就出现啦!因此布隆过滤器最大的缺点误判只要知道其判断元素是否存在的原理就很容易明白了!
无
布隆过滤器对元素的删除不太支持,目前有一些变形的特定布隆过滤器支持元素的删除!关于为什么对删除不太支持,其实也非常好理解,hash冲突必然存在,删除肯定是很苦难的!
v1.1.1
v2.2.6
以下安装全部在指定目录下完成,可以选择一个合适的统一目录进行软件安装和管理。
4.2.1下载插件压缩包
tar-zxvfv2.2.6.tar.gz4.2.3编译插件
编译成功后看到redisbloom.so文件即可
4.3.1Redis配置文件修改
loadmodule/usr/local/soft/RedisBloom-2.2.6/redisbloom.soredis.conf配置文件中预置了loadmodule的配置项,我们可以直接在这里修改,后续修改会更加方便。
保存退出后一定要记得重启Redis!保存退出后一定要记得重启Redis!保存退出后一定要记得重启Redis!
4.3.2测试是否成功
Redis集成布隆过滤器的主要指令如下:
连接客户端进行测试,如果指令有效则证明集成成功
如果出现如下情况(error)ERRunknowncommand,可以通过如下方法检查:
bf.add表示添加单个元素,添加成功返回1
bf.madd表示添加多个元素
bf.exists表示判断元素是否存在,存在则返回1,不存在返回0
bf.mexists表示判断多个元素是否存在,存在的返回1,不存在的返回0
使用布隆过滤器的方式有很多,还有很多大佬自己手写的,我这里使用的是谷歌guava包中实现的布隆过滤器,这种方式的布隆过滤器是在本地内存中实现。
*布隆过滤器测试代码*
**@Author:Liziba*@Date:2021/8/2914:51*/publicclassBloomFilterTest{/**预计插入的数据*/privatestaticIntegerexpectedInsertions=10000000;/**误判率*/privatestaticDoublefpp=0.01;/**布隆过滤器*/privatestaticBloomFilter在guava包中的BloomFilter源码中,构造一个BloomFilter对象有四个参数:
综上三次测试可以得出如下结论:
Redis经常会被问道缓存击穿问题,比较优秀的解决办法是使用布隆过滤器,也有使用空对象解决的,但是最好的办法肯定是布隆过滤器,我们可以通过布隆过滤器来判断元素是否存在,避免缓存和数据库都不存在的数据进行查询访问!在如下的代码中只要通过bloomFilter.contains(xxx)即可,我这里演示的还是误判率!