布隆过滤器速度_布隆过滤器的分析和实现
腾讯曾经出过这样一道面试题。
给40亿个不重复的无符号整数,没排过序。给一个无符号整数,如何快速判断一个数是否在这40亿个数中。
拿到这个题目,我们首先想到的是遍历这40亿的数字,然后一个一个找。显然是行不通的。因为这40亿个数放到内存中,大约需要16G内存。
如果我们把它转换成位图处理,那么就好处理多了。我们可以把一个×××再细分一下,一个int类型就可以编程32个位,每一位用0,1表示当前这个位置上是否存有值,同样是利用哈希存储的方法。只是这样存储的话就可以减少很多的空间了,例如上题使用的内存就可以从16G降到500M的内存。空间的使用率减少了不止一点。
大家可以根据我这个方法实现上面的代码,今天我主要介绍的是布隆过滤器,因为布隆过滤器也要用到位图(bitmap),位图实现思想:
1.把一个int类型变成32个bits。
2.把它们全部初始化为0。
3.如果当前位上有值,把0置成1。
下面我给出位图的实现代码:
BitMap.h中#include
class BitMap
{
public:
BitMap(size_t size = 0)
:_size(0)
{
//用resize开辟空间,_a中的值会被初始化为0
//加1为了让值全部能放到数组中,假如有36个数,36/32=1余4,而
//多开的那个空间就保证了这4个数能放下
//_a.resize(size/32+1);和下面的代码一个性质,只不过用移位运算符比除法的效率高
_a.resize((size >> 5) + 1);
}
//插入
void Set(size_t x)
{
size_t index = x >> 5;
size_t num = x % 32;
//当前位置如果等于0,没有值,可以插入
if (!(_a[index] & (1 <
{
_a[index] |= (1 <
++_size;
}
}
//删除
void Reset(size_t x)
{
size_t index = x >> 5;
size_t num = x % 32;
//当前位置为1,有值,可以删除
if (_a[index] & (1 <
{
_a[index] &= ~(1 <
--_size;
}
}
//判断是否有值
bool BitMapTest(size_t x)
{
size_t index = x >> 5;
size_t num = x % 32;
if (_a[index] & (1 <
{
return true;
}
return false;
}
void Resize(size_t size)
{
_a.resize(size);
}
protected:
vector _a;
size_t _size;
};
如果想判断一个元素是不是在一个集合里,一般想到的是将所有元素保存起来,然后通过比较确定。链表,树等等数据结构都是这种思路. 但是随着集合中元素的增加,我们需要的存储空间越来越大,检索速度也越来越慢。不过世界上还有一种叫作散列表(又叫哈希表,Hash table)的数据结构。它可以通过一个Hash函数将一个元素映射成一个位阵列(Bit Array)中的一个点。这样一来,我们只要看看这个点是不是 1 就知道可以集合中有没有它了。这就是布隆过滤器的基本思想。
Hash面临的问题就是冲突。假设 Hash 函数是良好的,如果我们的位阵列长度为 m 个点,那么如果我们想将冲突率降低到例如 1%, 这个散列表就只能容纳 m/100 个元素。显然这就不叫空间有效了(Space-efficient)。解决方法也简单,就是使用多个 Hash,如果它们有一个说元素不在集合中,那肯定就不在。如果它们都说在,虽然也有一定可能性它们在说谎,不过直觉上判断这种事情的概率是比较低的。
优点
相比于其它的数据结构,布隆过滤器在空间和时间方面都有巨大的优势。布隆过滤器存储空间和插入/查询时间都是常数。另外, Hash 函数相互之间没有关系,方便由硬件并行实现。布隆过滤器不需要存储元素本身,在某些对保密要求非常严格的场合有优势。
布隆过滤器可以表示全集,其它任何数据结构都不能;
k 和 m 相同,使用同一组 Hash 函数的两个布隆过滤器的交并差运算可以使用位操作进行。
缺点
但是布隆过滤器的缺点和优点一样明显。误算率(False Positive)是其中之一。随着存入的元素数量增加,误算率随之增加。但是如果元素数量太少,则使用散列表足矣。
另外,一般情况下不能从布隆过滤器中删除元素. 我们很容易想到把位列阵变成整数数组,每插入一个元素相应的计数器加1, 这样删除元素时将计数器减掉就可以了。然而要保证安全的删除元素并非如此简单。首先我们必须保证删除的元素的确在布隆过滤器里面. 这一点单凭这个过滤器是无法保证的。另外计数器回绕也会造成问题。
下面给出布隆过滤器的实现代码:
commom.h中#pragma once
#include
size_t NewSize(size_t size)
{
// 使用素数表对齐做哈希表的容量,降低哈希冲突
const int _PrimeSize = 28;
static const unsigned long _PrimeList[_PrimeSize] =
{
53ul, 97ul, 193ul, 389ul, 769ul,
1543ul, 3079ul, 6151ul, 12289ul, 24593ul,
49157ul, 98317ul, 196613ul, 393241ul, 786433ul,
1572869ul, 3145739ul, 6291469ul, 12582917ul, 25165843ul,
50331653ul, 100663319ul, 201326611ul, 402653189ul, 805306457ul,
1610612741ul, 3221225473ul, 4294967291ul
};
for (int i = 0; i
{
if (_PrimeList[i]>size)
{
return _PrimeList[i];//按照素数表来设置容量大小
}
}
//当需要的容量超过素数表的最大容量,我们就按照最大的来扩容
return _PrimeList[_PrimeSize - 1];
}
template
struct __HashFunc1
{
size_t BKDRHash(const T *str)
{
register size_t hash = 0;
while (size_t ch = (size_t)*str++)
{
hash = hash * 131 + ch;
}
return hash;
}
size_t operator()(const T& key)
{
return BKDRHash(key.c_str());
}
};
template
struct __HashFunc2
{
size_t SDBMHash(const T *str)
{
register size_t hash = 0;
while (size_t ch = (size_t)*str++)
{
hash = 65599 * hash + ch;
//hash = (size_t)ch + (hash <
}
return hash;
}
size_t operator()(const T& key)
{
return SDBMHash(key.c_str());
}
};
template
struct __HashFunc3
{
size_t RSHash(const T *str)
{
register size_t hash = 0;
size_t magic = 63689;
while (size_t ch = (size_t)*str++)
{
hash = hash * magic + ch;
magic *= 378551;
}
return hash;
}
size_t operator()(const T& key)
{
return RSHash(key.c_str());
}
};
template
struct __HashFunc4
{
size_t APHash(const T *str)
{
register size_t hash = 0;
size_t ch;
for (long i = 0; ch = (size_t)*str++; i++)
{
if ((i & 1) == 0)
{
hash ^= ((hash <> 3));
}
else
{
hash ^= (~((hash <> 5)));
}
}
return hash;
}
size_t operator()(const T& key)
{
return APHash(key.c_str());
}
};
template
struct __HashFunc5
{
size_t JSHash(const T *str)
{
if (!*str) // 这是由本人添加,以保证空字符串返回哈希值0
return 0;
register size_t hash = 1315423911;
while (size_t ch = (size_t)*str++)
{
hash ^= ((hash <> 2));
}
return hash;
}
size_t operator()(const T& key)
{
return JSHash(key.c_str());
}
};
我使用了5个Hash函数,可以降低哈希冲突。大家视情况而定,自己设置哈希函数的个数。
BoolmFilter.h中#pragma once
#include
#include "BitMap.h"
#include "common.h"
template
class HashFunc1=__HashFunc1,
class HashFunc2 = __HashFunc2,
class HashFunc3 = __HashFunc3,
class HashFunc4 = __HashFunc4,
class HashFunc5 = __HashFunc5
>
class BoolmFilter
{
public:
BoolmFilter(size_t capatity = 0)
{
_capatity = NewSize(capatity);
_bm.Resize(_capatity);
}
void Set(const T& key)
{
size_t index1 = HashFunc1()(key);
size_t index2 = HashFunc2()(key);
size_t index3 = HashFunc3()(key);
size_t index4 = HashFunc4()(key);
size_t index5 = HashFunc5()(key);
_bm.Set(index1%_capatity);
_bm.Set(index2%_capatity);
_bm.Set(index3%_capatity);
_bm.Set(index4%_capatity);
_bm.Set(index5%_capatity);
}
bool Test(const T& key)
{
size_t index1 = HashFunc1()(key);
if (!_bm.BitMapTest(index1%_capatity))
{
return false;
}
size_t index2 = HashFunc2()(key);
if (!_bm.BitMapTest(index2%_capatity))
{
return false;
}
size_t index3 = HashFunc3()(key);
if (!_bm.BitMapTest(index3%_capatity))
{
return false;
}
size_t index4 = HashFunc4()(key);
if (!_bm.BitMapTest(index4%_capatity))
{
return false;
}
size_t index5 = HashFunc5()(key);
if (!_bm.BitMapTest(index5%_capatity))
{
return false;
}
return true;
}
protected:
BitMap _bm;
size_t _capatity;
};
test.cpp中#include
using namespace std;
#include "BoolmFilter.h"
void BoolTest()
{
BoolmFilter<>bf(100);
bf.Set("she is girl");
bf.Set("我是好人");
bf.Set("chive/2012/05/31/2528153.html");
cout <
cout <
cout <
}
int main()
{
BoolTest();
system("pause");
return 0;
}
希望能帮到大家,有什建议可以提出,谢谢!
布隆过滤器速度_布隆过滤器的分析和实现相关推荐
- 布隆过滤器速度_布隆过滤器,你也可以处理十几亿的大数据
文章收录在 GitHub JavaKeeper ,N线互联网开发必备技能兵器谱 什么是 BloomFilter 布隆过滤器(英语:Bloom Filter)是 1970 年由布隆提出的.它实际上是一个 ...
- 布隆过滤器速度_布隆过滤器(Bloom Filter)详解
布隆过滤器[1](Bloom Filter)是由布隆(Burton Howard Bloom)在1970年提出的.它实际上是由一个很长的二进制向量和一系列随机映射函数组成,布隆过滤器可以用于检索一个元 ...
- 布隆过滤器速度_详解布隆过滤器的原理、使用场景和注意事项
今天碰到个业务,他的 Redis 集群有个大 Value 用途是作为布隆过滤器,但沟通的时候被小怼了一下,意思大概是 "布隆过滤器原理都不懂,还要我优化?".技术菜被人怼认了.怪不 ...
- 布隆过滤器速度_高并发系统一定要考虑的 Bloom Filter 布隆过滤器
开篇思考 你能想到哪些方式判断一个元素是否存在集合中? 布隆过滤器并不存储数据本身,那么是怎么做到过滤的? 布隆过滤器实现?参数配置? 一般我们用来判断一个元素是否存在,会想到用 List,Map,S ...
- 布隆过滤器误判_布隆过滤器原理
布隆过滤器 布隆过滤器拥有极高的性能,无论是写入操作还是读取操作,时间复杂度是O(1). 在空间上相对于其他数据结构,有很大优势, 20亿的数据需要 2000000000bit/8/1024/1024 ...
- 清空缓存的命令_布隆过滤器应用——解决Redis缓存穿透问题
1. 布隆过滤器 简要介绍布隆过滤器的概念和特点,详细知识请参考几篇参考文献或其它文章. 1.1 概念 简单点说,布隆过滤器本质是一个位数组. 当一个元素加入过滤器时,使用多个hash函数对元素求值, ...
- 判断数组中某个元素除自身外是否和其他数据不同_布隆过滤器,我也是个处理过 10 亿数据的人...
❝ 文章收录在 GitHub JavaKeeper ,N线互联网开发必备技能兵器谱 什么是 BloomFilter 布隆过滤器(英语:Bloom Filter)是 1970 年由布隆提出的.它实际上是 ...
- mysql布隆过滤器源码_布隆过滤器(Bloom Filter)的原理和实现
什么情况下需要布隆过滤器? 先来看几个比较常见的例子 字处理软件中,需要检查一个英语单词是否拼写正确 在 FBI,一个嫌疑人的名字是否已经在嫌疑名单上 在网络爬虫里,一个网址是否被访问过 yahoo, ...
- 实战:布隆过滤器安装与使用及原理分析
我们前面有讲到过 HyperLogLog 可以用来做基数统计,但它没提供判断一个值是否存在的查询方法,那我们如何才能查询一个值是否存在于海量数据之中呢? 如果使用传统的方式,例如 SQL 中的传统查询 ...
最新文章
- 合理消费你的86400秒
- 【机器学习基础】Softmax与Sigmoid你还不知道存在这些联系?
- 17章 SPI控制器(XIlinx ZYNQ-7000 SOC UG-585文档)
- C#WebApi路由机制详解
- QT 动态创建对象(第一种方法)
- Dcloud+mui 压缩上传图片到服务器
- OCP-052考试题库汇总(60)-CUUG内部解答版
- html div 球形,CSS3 简单的球形构造
- CodeFirst实体类中,为什么都把ICollectionx定义成virtual?
- python udp
- 计算机学院毕业设计任务书,计算机专业毕业设计任务书.doc
- 空降的主管要如何生存?
- Scrum立会报告+燃尽图(十月二十五日总第十六次)
- IIS PHP MYSQL出现问题_iis php mysql
- ERD Online 4.0.3_fix 元数据在线建模(免费、私有部署)
- 进程理论以及开启子进程的两种方式
- 为什么在房间里显示无服务器,家里路由器在客厅,房间没信号怎么办?
- 三菱伺服刚性调节方法
- 使用bat批处理文件启动.exe程序
- Javascript 字面量和变量