布(隆/谷鸟)过滤器
创始人
2024-01-27 03:03:48
0

布隆过滤器

本质:一个空的2进制数组(初始全为0,只存0和1)

插入

一个key,经过k个hash函数运算后,得到k个值,将2进制数组对应下标的位置置为1。

查询

将key同样进行k个hash,去2进制数组比对对应下标位置的值,

  • 全为1则可能存在该key;
  • 不全为1,则一定不存在该key
删除

不能删

应用
  • 大集合中检查元素是否重复
  • Redis中防止缓存穿透

缓存穿透:key对应的数据在数据源并不存在,每次针对此key的请求从缓存获取不到,请求都会到数据源,从而可能压垮数据源。
解决办法:将数据源的key是否存在的信息存储到布隆过滤器中,如果布隆过滤器判定数据不存在,则不再请求数据源。

布谷鸟过滤器

基本的布谷鸟过滤器由两个并不独立的哈希函数构成。
基本单位为条目,每个条目存储一个指纹。
指纹指的是使用一个哈希函数生成的n位比特位,n的具体大小由所能接受的误判率来设置。一般n=8
布谷鸟哈希表由一个桶数组构成,每个桶可以有多个条目,即每个桶中有多个存放指纹的位置。

插入

先进行一次hash,得出应当插入位置和应当插入的值(指纹)。
如果这个桶(桶内的m个位置均被占用)插入失败,会重新计算(指纹哈希与第一个索引异或),查看第二个桶能否插入。

若第二个桶插入失败,则会随机在两个桶中挑选一个桶,将其中的一个值标记为旧值,用新值覆盖旧值,旧值会在重复上面的步骤进行插入。

扩容

如果数组过小,会发生循环挤兑的情况。
如果超过最大挤兑次数,进行扩容,重新计算每个指纹的位置。

删除
  • 通过两次hash找到索引位置,如果任何桶中的指纹匹配,则从该桶中删除匹配指纹的一份副本。
  • 如果俩数据的哈希值和指纹相同时,会出现误删除情况。
更新

删除后再添加新指纹。

优点
  • 支持删除
  • 在误判率小于3%时,空间性能优于布隆过滤器
  • 查询效率高
缺点
  • 插入性能差
  • 插入重复元素存在上限(哈希函数个数*桶容量)
  • 空间大小要求是2的指数
  • 删除有问题,存在误删的概率

表格一览

布隆过滤器布谷鸟过滤器
插入k个hash函数2个hash函数
删除不能删可以删
更新不能更新删除后再添加
查询有误判率有误判率
优点安全、节省空间查询效率高、支持删除、更节省空间
缺点有误判率、无法删除插入性能差、插入重复元素有上限、空间大小为2的指数、删除不完美

相关内容

热门资讯

前端-session、jwt 目录:   (1)session (2&#x...
linux入门---制作进度条 了解缓冲区 我们首先来看看下面的操作: 我们首先创建了一个文件并在这个文件里面添加了...
关于测试,我发现了哪些新大陆 关于测试 平常也只是听说过一些关于测试的术语,但并没有使用过测试工具。偶然看到编程老师...
前缀和与对数器与二分法 1. 前缀和 假设有一个数组,我们想大量频繁的去访问L到R这个区间的和,...
nodejs:本地安装nvm实... 一、背景-使用不同版本node的原因 vue3+ts、nuxt3版本,node...
JAVA集合知识整理 Java集合知识整理 HashMap相关 HashMap的底层数据结构:jdk1.8之...
无刷直流电机介绍及单片机控制实... 无刷直流电机介绍及单片机控制实例前言基本概念优势与劣势使用寿命基本结构使用单片机控制实例电子调速器&...
fwdiary(2) dp2 1.传纸条  AcWing 275. 传纸条 - AcWing 走两条路,走一条最大的...
常用的DOS命令 常用的DOS命令 DOS(Disk Operating System,磁...
<C++> 类和对象(下) 1.const成员函数将const修饰的“成员函数”称之为const成员函数,cons...