首先先看一下下面這個騰訊的面試題:
創(chuàng)新互聯(lián)主營永康網(wǎng)站建設(shè)的網(wǎng)絡(luò)公司,主營網(wǎng)站建設(shè)方案,app軟件定制開發(fā),永康h5小程序開發(fā)搭建,永康網(wǎng)站營銷推廣歡迎永康等地區(qū)企業(yè)咨詢給40億個不重復(fù)的無符號整數(shù),沒排過序。給一個無符號整數(shù),如何快速判斷一個數(shù)是否在這40億個數(shù)中。 【騰訊】
思路一:
最容易想到的解法就是遍歷所有的40多億個整數(shù),然后一個一個判斷。但是這個需要花費的內(nèi)存是多大呢?
大家可以去算一下,這里我就直接給出結(jié)果為16G,是不是需要的空間很大啊。如果面試官給出限制條件,要你使用的空間少于多少,遍歷的方法就行不通啦。
思路二:
我們可以把一個×××再細分一下,一個int類型就可以編程32個位,每一位用0,1表示當(dāng)前這個位置上是否存有值,同樣是利用哈希存儲的方法。只是這樣存儲的話就可以減少很多的空間了,例如上題使用的內(nèi)存就可以從16G降到500M的內(nèi)存??臻g的使用率減少了不止一點。
位圖的實現(xiàn)
#ifndef __BITMAP_H__ #define __BITMAP_H__ #include <vector> #include "Common.h" class BitMap { public: BitMap(size_t size = 0) :_size(0) { _a.resize((size>>5)+1); } //插入數(shù)據(jù) void Set(size_t x) { size_t index = x >> 5; size_t num = x % 32; //如果當(dāng)前位置不存在值,直接插入 if (!(_a[index] & (1 << num)))//判斷這個位上是不是等0的 { ++_size; _a[index] |= (1 << num);//將當(dāng)前位上的值置成1 } } void Reset(size_t x) { size_t index = x >> 5; size_t num = x % 32; //判斷當(dāng)前位上的值是不是等于1,等于1刪除 if (_a[index] & (1 << num)) { --_size; _a[index] &= ~(1 << num);//將當(dāng)前位置成0 } } bool Test(size_t x) { size_t index = x >> 5; size_t num = x % 32; //如果當(dāng)前位等于1,那么存在 if (_a[index] & (1 << num)) { return true; } return false; } void Resize(size_t size) { _a.resize((size >> 5) + 1); } size_t Size() { return _size; } private: vector<size_t> _a; size_t _size;//位圖上插入了多少值 }; void Test() { BitMap bm(35); bm.Set(4); bm.Set(5); bm.Set(6); cout << "is4Exist?->" << bm.Test(4) << endl; cout <<"is5Exist?->"<< bm.Test(5) << endl; bm.Reset(5); cout << "is4Exist?->" << bm.Test(4) << endl; cout << "is5Exist?->" << bm.Test(5) << endl; } #endif //__BITMAP_H__
如果想判斷一個元素是不是在一個集合里,一般想到的是將集合中所有元素保存起來,然后通過比較確定。鏈表、樹、散列表(又叫哈希表,Hash table)等等數(shù)據(jù)結(jié)構(gòu)都是這種思路。但是隨著集合中元素的增加,我們需要的存儲空間越來越大。同時檢索速度也越來越慢。
Bloom Filter 是一種空間效率很高的隨機數(shù)據(jù)結(jié)構(gòu),Bloom filter 可以看做是對 bit-map 的擴展, 它的原理是:
當(dāng)一個元素被加入集合時,通過 K
個 Hash函數(shù)
將這個元素映射成一個位陣列(Bit array)中的 K 個點
,把它們置為 1
。檢索時,我們只要看看這些點是不是都是 1 就(大約)知道集合中有沒有它了:
如果這些點有任何一個 0,則被檢索元素一定不在;
如果都是 1,則被檢索元素可能在。
如果只是空洞的說這些原理的話,肯定大家都不知道布隆過濾器有什么用處。布隆過濾器對于單機來說可能用處不是很大,但對于分布式來說就比較有用了。
如主從分布:一個數(shù)組過來,我想要知道他是不是在內(nèi)存中,我們是不是需要一個一個去訪問磁盤,判斷數(shù)據(jù)是否存在。但是問題來了訪問磁盤的速度是很慢的,所以效率會很低,如果使用布隆過濾器,我們就可以先去過濾器這個集合里面找一下對應(yīng)的位置的數(shù)據(jù)是否存在。雖然布隆過濾器有他的缺陷,但是我們能夠知道的是當(dāng)前位置為0是肯定不存在的,如果都不存在,就不需要去訪問了。
下面來講一下布隆過濾器的缺陷:
缺陷一:誤算率(False Positive)是其中之一。隨著存入的元素數(shù)量增加,誤算率隨之增加。但是如果元素數(shù)量太少,則使用散列表足矣。所以我們用多個哈希表去 存儲一個數(shù)據(jù)。那么問題又來了,我們是多用一些呢,還是少用一些。如果多用哈希表的話,如上面的題,一個哈希就需要500M,那么放的越多是不是越占內(nèi)存啊。如果太少的話是不是誤算率就高啊,所以取個適中的。下面我的實現(xiàn)是取了五個哈希表(沒有什么根據(jù),只是把思路展現(xiàn)出來一下,能夠分析出取多少個,那都是大牛們弄出來的算法,我當(dāng)前水平不夠~)
缺陷二:如果當(dāng)前位置為0肯定不存在,但是為1不一定存在
布隆過濾器的實現(xiàn):(用了素數(shù)表和5個哈希算法)
一、5個哈希算法的實現(xiàn)
#ifndef __COMMON_H__ #define __COMMON_H__ size_t GetPrimeSize(size_t size) { static const int _PrimeSize = 28; static const unsigned long _PrimeList[_PrimeSize] = { 53ul, 97ul, 193ul, 389ul, 769ul, 1543ul, 3079ul, 6151ul, 12289ul, 24593ul, 49157ul, 98317ul, 196613ul, 393241ul, 786433ul, 1572869ul, 3145739ul, 6291469ul, 12582917ul, 25165843ul, 50331653ul, 100663319ul, 201326611ul, 402653189ul, 805306457ul, 1610612741ul, 3221225473ul, 4294967291ul }; for (size_t i = 0; i < _PrimeSize; i++) { if (_PrimeList[i] > size) { return _PrimeList[i]; } if (_PrimeList[_PrimeSize] == size) return _PrimeList[_PrimeSize - 1]; } return _PrimeList[_PrimeSize - 1]; } template<class T> struct __HashFunc1 { size_t BKDRHash(const char* str) { register size_t hash = 0; while (size_t ch = (size_t)*str++) { hash = hash * 131 + ch; // 也可以乘以31、131、1313、13131、131313.. } return hash; } size_t operator()(const T& str) { return BKDRHash(str.c_str()); } }; template<class T> struct __HashFunc2 { size_t SDBMHash(const char* str) { register size_t hash = 0; while (size_t ch = (size_t)*str++) { hash = 65599 * hash + ch; //hash = (size_t)ch + (hash << 6) + (hash << 16) - hash; } return hash; } size_t operator()(const T& str) { return SDBMHash(str.c_str()); } }; template<class T> struct __HashFunc3 { size_t RSHash(const char *str) { register size_t hash = 0; size_t magic = 63689; while (size_t ch = (size_t)*str++) { hash = hash * magic + ch; magic *= 378551; } return hash; } size_t operator()(const T& str) { return RSHash(str.c_str()); } }; template<class T> struct __HashFunc4 { size_t APHash(const char *str) { register size_t hash = 0; size_t ch; for (long i = 0; ch = (size_t)*str++; i++) { if ((i & 1) == 0) { hash ^= ((hash << 7) ^ ch ^ (hash >> 3)); } else { hash ^= (~((hash << 11) ^ ch ^ (hash >> 5))); } } return hash; } size_t operator()(const T& str) { return APHash(str.c_str()); } }; template<class T> struct __HashFunc5 { size_t JSHash(const char *str) { if (!*str) // 這是由本人添加,以保證空字符串返回哈希值0 return 0; register size_t hash = 1315423911; while (size_t ch = (size_t)*str++) { hash ^= ((hash << 5) + ch + (hash >> 2)); } return hash; } size_t operator()(const T& str) { return JSHash(str.c_str()); } }; #endif //__COMMON_H__
二、布隆過濾器
#ifndef __BLOOMFILTER_H__ #define __BLOOMFILTER_H__ #include <iostream> using namespace std; #include<string> #include"BitMap.h" #include "Common.h" template<class K = string, class HashFunc1 = __HashFunc1<K>, class HashFunc2 = __HashFunc2<K>, class HashFunc3 = __HashFunc3<K>, class HashFunc4 = __HashFunc4<K>, class HashFunc5 = __HashFunc5<K>> class BloomFilter { public: BloomFilter(size_t size = 0) { _capacity = GetPrimeSize(size); _bitMap.Resize(_capacity); } void Set(const K& key) { size_t index1 = HashFunc1()(key); size_t index2 = HashFunc2()(key); size_t index3 = HashFunc3()(key); size_t index4 = HashFunc4()(key); size_t index5 = HashFunc5()(key); _bitMap.Set(index1%_capacity);//設(shè)置為第多少位的數(shù),然后調(diào)用位圖的Set設(shè)置成第幾個字節(jié)的第幾位 _bitMap.Set(index2%_capacity); _bitMap.Set(index3%_capacity); _bitMap.Set(index4%_capacity); _bitMap.Set(index5%_capacity); } bool Test(const K& key) { size_t index1 = HashFunc1()(key); if (!(_bitMap.Test(index1%_capacity)))//為1不一定存在,為0肯定不存在 return false; size_t index2 = HashFunc2()(key); if (!(_bitMap.Test(index2%_capacity))) return false; size_t index3 = HashFunc3()(key); if (!(_bitMap.Test(index3%_capacity))) return false; size_t index4 = HashFunc4()(key); if (!(_bitMap.Test(index4%_capacity))) return false; size_t index5 = HashFunc4()(key); if (!(_bitMap.Test(index5%_capacity))) return false; return true; } protected: BitMap _bitMap; size_t _capacity; }; void TestBloomFilter() { BloomFilter<> bf(50); bf.Set("臧"); bf.Set("靜"); bf.Set("比特"); bf.Set("peter"); bf.Set("徐"); bf.Set("http://www.cnblogs.com/-clq/archive/2012/05/31/2528153.html"); bf.Set("http://www.cnblogs.com/-clq/archive/2012/05/31/2528155.html"); cout << "Exist?->:" << bf.Test("臧") << endl; cout << "Exist?->:" << bf.Test("靜") << endl; cout << "Exist?->:" << bf.Test("peter") << endl; cout << "Exist?->:" << bf.Test("徐航") << endl; cout << "Exist?->:" << bf.Test("http://www.cnblogs.com/-clq/archive/2012/05/31/2528153.html") << endl; cout << "Exist?->:" << bf.Test("http://www.cnblogs.com/-clq/archive/2012/05/31/25288153.html") << endl; } #endif //__BLOOMFILTER_H__
另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn,海內(nèi)外云服務(wù)器15元起步,三天無理由+7*72小時售后在線,公司持有idc許可證,提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國服務(wù)器、虛擬主機、免備案服務(wù)器”等云主機租用服務(wù)以及企業(yè)上云的綜合解決方案,具有“安全穩(wěn)定、簡單易用、服務(wù)可用性高、性價比高”等特點與優(yōu)勢,專為企業(yè)上云打造定制,能夠滿足用戶豐富、多元化的應(yīng)用場景需求。
當(dāng)前名稱:【數(shù)據(jù)結(jié)構(gòu)】位圖BitMap與布隆過濾器BloomFilter-創(chuàng)新互聯(lián)
轉(zhuǎn)載來于:http://aaarwkj.com/article20/hodjo.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供網(wǎng)站收錄、移動網(wǎng)站建設(shè)、用戶體驗、微信小程序、品牌網(wǎng)站建設(shè)、商城網(wǎng)站
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容