打造最快的Hash

一个简单的问题:有一个庞大的字符串数组,然后给你一个单独的字符串,让你从这个数组中查找是否有这个字符串并找到它,你会怎么做?有一个方法最简单,老老实实从头查到尾,一个一个比较,直到找到为止,我想只要学过程序设计的人都能把这样一个程序作出来,但要是有程序员把这样的程序交给用户,我只能用无语来评价,或许它真的能工作,但...也只能如此了。

最合适的算法自然是使用HashTable(哈希表),先介绍介绍其中的基本知识,所谓Hash,一般是一个整数,通过某种算法,可以把一个字符串"压缩" 成一个整数。当然,无论如何,一个32位整数是无法对应回一个字符串的,但在程序中,两个字符串计算出的Hash值相等的可能非常小,下面看看在MPQ中的Hash算法:

以下的函数生成一个长度为0x500(合10进制数:1280)的cryptTable[0x500]

void prepareCryptTable()

{

unsigned long seed = 0x00100001, index1 = 0, index2 = 0, i;

for( index1 = 0; index1 < 0x100; index1++ )

{

for( index2 = index1, i = 0; i < 5; i++, index2 += 0x100 )

{

unsigned long temp1, temp2;

seed = (seed * 125 + 3) % 0x2AAAAB;

temp1 = (seed & 0xFFFF) << 0x10;

seed = (seed * 125 + 3) % 0x2AAAAB;

temp2 = (seed & 0xFFFF);

cryptTable[index2] = ( temp1 | temp2 );

}

}

}

以下函数计算lpszFileName 字符串的hash值,其中dwHashType 为hash的类型,在下面GetHashTablePos函数里面调用本函数,其可以取的值为0、1、2;该函数返回lpszFileName 字符串的hash值;

unsigned long HashString( char *lpszFileName, unsigned long dwHashType )

{

unsigned char *key  = (unsigned char *)lpszFileName;

unsigned long seed1 = 0x7FED7FED;

unsigned long seed2 = 0xEEEEEEEE;

int ch;

while( *key != 0 )

{

ch = toupper(*key++);

seed1 = cryptTable[(dwHashType << 8) + ch] ^ (seed1 + seed2);

seed2 = ch + seed1 + seed2 + (seed2 << 5) + 3;

}

return seed1;

}

 Blizzard的这个算法是非常高效的,被称为"One-Way Hash"( A one-way hash is a an algorithm that is constructed in such a way that deriving the original string (set of strings, actually) is virtually impossible)。举个例子,字符串"unitneutralacritter.grp"通过这个算法得到的结果是0xA26067F3。

  是不是把第一个算法改进一下,改成逐个比较字符串的Hash值就可以了呢,答案是,远远不够,要想得到最快的算法,就不能进行逐个的比较,通常是构造一个哈希表(Hash Table)来解决问题,哈希表是一个大数组,这个数组的容量根据程序的要求来定义,例如1024,每一个Hash值通过取模运算 (mod) 对应到数组中的一个位置,这样,只要比较这个字符串的哈希值对应的位置又没有被占用,就可以得到最后的结果了,想想这是什么速度?是的,是最快的O(1),现在仔细看看这个算法吧:

typedef struct

{

int nHashA;

int nHashB;

char bExists;

......

} SOMESTRUCTRUE;

一种可能的结构体定义?

lpszString 为要在hash表中查找的字符串;lpTable 为存储字符串hash值的hash表

 

int GetHashTablePos( har *lpszString, SOMESTRUCTURE *lpTable )

{

int nHash = HashString(lpszString);

int nHashPos = nHash % nTableSize;

if ( lpTable[nHashPos].bExists  &&  !strcmp( lpTable[nHashPos].pString, lpszString ) )

{

return nHashPos;

}

else

{

return -1;

}

}

看到此,我想大家都在想一个很严重的问题:“如果两个字符串在哈希表中对应的位置相同怎么办?”,毕竟一个数组容量是有限的,这种可能性很大。解决该问题的方法很多,我首先想到的就是用“链表”,感谢大学里学的数据结构教会了这个百试百灵的法宝,我遇到的很多算法都可以转化成链表来解决,只要在哈希表的每个入口挂一个链表,保存所有对应的字符串就OK了。事情到此似乎有了完美的结局,如果是把问题独自交给我解决,此时我可能就要开始定义数据结构然后写代码了。然而Blizzard的程序员使用的方法则是更精妙的方法。基本原理就是:他们在哈希表中不是用一个哈希值而是用三个哈希值来校验字符串。

MPQ使用文件名哈希表来跟踪内部的所有文件。但是这个表的格式与正常的哈希表有一些不同。首先,它没有使用哈希作为下标,把实际的文件名存储在表中用于验证,实际上它根本就没有存储文件名。而是使用了3种不同的哈希:一个用于哈希表的下标,两个用于验证。这两个验证哈希替代了实际文件名。

当然了,这样仍然会出现2个不同的文件名哈希到3个同样的哈希。但是这种情况发生的概率平均是1:18889465931478580854784,这个概率对于任何人来说应该都是足够小的。现在再回到数据结构上,Blizzard使用的哈希表没有使用链表,而采用"顺延"的方式来解决问题,看看这个算法:

lpszString 为要在hash表中查找的字符串;lpTable 为存储字符串hash值的hash表;nTableSize 为hash表的长度;

int GetHashTablePos( char *lpszString, MPQHASHTABLE *lpTable, int nTableSize )

{

const int  HASH_OFFSET = 0, HASH_A = 1, HASH_B = 2;

int  nHash = HashString( lpszString, HASH_OFFSET );

int  nHashA = HashString( lpszString, HASH_A );

int  nHashB = HashString( lpszString, HASH_B );

int  nHashStart = nHash % nTableSize;

int  nHashPos = nHashStart;

while ( lpTable[nHashPos].bExists )

{

/*如果仅仅是判断在该表中时候存在这个字符串,就比较这两个hash值就可以了,不用对

*结构体中的字符串进行比较。这样会加快运行的速度?减少hash表占用的空间?这种

*方法一般应用在什么场合?*/

if (   lpTable[nHashPos].nHashA == nHashA

&&  lpTable[nHashPos].nHashB == nHashB )

{

return nHashPos;

}

else

{

nHashPos = (nHashPos + 1) % nTableSize;

}

if (nHashPos == nHashStart)

break;

}

return -1;

}

1.     计算出字符串的三个哈希值(一个用来确定位置,另外两个用来校验)
2. 察看哈希表中的这个位置
3. 哈希表中这个位置为空吗?如果为空,则肯定该字符串不存在,返回
4. 如果存在,则检查其他两个哈希值是否也匹配,如果匹配,则表示找到了该字符串,返回
5. 移到下一个位置,如果已经移到了表的末尾,则反绕到表的开始位置起继续查询 
6. 看看是不是又回到了原来的位置,如果是,则返回没找到
7. 回到3


补充1:其他比较简单一些的hash函数:

/*key为一个字符串,nTableLength为哈希表的长度

*该函数得到的hash值分布比较均匀*/

unsigned long getHashIndex( const char *key, int nTableLength )

{

unsigned long nHash = 0;

while (*key)

{

nHash = (nHash<<5) + nHash + *key++;

}

return ( nHash % nTableLength );

}

 

补充2

哈希表的数组是定长的,如果太大,则浪费,如果太小,体现不出效率。合适的数组大小是哈希表的性能的关键。哈希表的尺寸最好是一个质数。当然,根据不同的数据量,会有不同的哈希表的大小。对于数据量时多时少的应用,最好的设计是使用动态可变尺寸的哈希表,那么如果你发现哈希表尺寸太小了,比如其中的元素是哈希表尺寸的2倍时,我们就需要扩大哈希表尺寸,一般是扩大一倍。下面是哈希表尺寸大小的可能取值:

17,            37,          79,          163,           331,  

673,           1361,        2729,       471,          10949,        

21911,         43853,      87719,      175447,       350899,

701819,        1403641,   2807303,    5614657,     11229331,   

22458671,     44917381,  89834777,  179669557,   359339171,  

718678369,    1437356741,  2147483647

 

 

 

 


 

 

以下为该程序的源代码,在linux下测试通过:

 

 

 

#include <stdio.h>


/*crytTable[]里面保存的是HashString函数里面将会用到的一些数据,在prepareCryptTable
 *函数里面初始化*/
unsigned long cryptTable[0x500];


 /***********************************************************
  *以下的函数生成一个长度为0x500(合10进制数:1280)的cryptTable[0x500]
  *
  *
  ***********************************************************/
void prepareCryptTable()
{
    unsigned long seed = 0x00100001, index1 = 0, index2 = 0, i;

    for( index1 = 0; index1 < 0x100; index1++ )
    {
        for( index2 = index1, i = 0; i < 5; i++, index2 += 0x100 )
        {
            unsigned long temp1, temp2;

            seed = (seed * 125 + 3) % 0x2AAAAB;
            temp1 = (seed & 0xFFFF) << 0x10;

            seed = (seed * 125 + 3) % 0x2AAAAB;
            temp2 = (seed & 0xFFFF);

            cryptTable[index2] = ( temp1 | temp2 );
       }
   }
}


/***********************************************************
 *以下函数计算lpszFileName 字符串的hash值,其中dwHashType 为hash的类型,
 *在下面GetHashTablePos函数里面调用本函数,其可以取的值为0、1、2;该函数
 *返回lpszFileName 字符串的hash值;
 ***********************************************************/
unsigned long HashString( char *lpszFileName, unsigned long dwHashType )
{
    unsigned char *key  = (unsigned char *)lpszFileName;
unsigned long seed1 = 0x7FED7FED;
unsigned long seed2 = 0xEEEEEEEE;
    int ch;

    while( *key != 0 )
    {
        ch = toupper(*key++);

        seed1 = cryptTable[(dwHashType << 8) + ch] ^ (seed1 + seed2);
        seed2 = ch + seed1 + seed2 + (seed2 << 5) + 3;
    }
    return seed1;
}

 

 /***********************************************************
  *在main中测试argv[1]的三个hash值:
  *  ./hash  "arr/units.dat"
  *  ./hash  "unit/neutral/acritter.grp"
  ***********************************************************/
int main( int argc, char **argv )
{
    unsigned long ulHashValue;
    int i = 0;

    if ( argc != 2 )
    {
        printf("please input two arguments/n");
        return -1;
    }

     /*初始化数组:crytTable[0x500]*/
     prepareCryptTable();

     /*打印数组crytTable[0x500]里面的值*/
     for ( ; i < 0x500; i++ )
     {
         if ( i % 10 == 0 )
         {
             printf("/n");
         }

         printf("%-12X", cryptTable[i] );
     }

     ulHashValue = HashString( argv[1], 0 );
     printf("/n----%X ----/n", ulHashValue );

     ulHashValue = HashString( argv[1], 1 );
     printf("----%X ----/n", ulHashValue );

     ulHashValue = HashString( argv[1], 2 );
     printf("----%X ----/n", ulHashValue );

     return 0;
}

 

打造最快的Hash表相关推荐

  1. Blizzard经典之打造最快的Hash表

    大学时代,对于Blizzard情有独钟,特别是100M左右的程序,能够打造出来魔兽争霸,简直是叹为观止!一个能在386上运行流畅的游戏,仅仅用了256色的颜色索引表,就打造了其游戏中丰富的视觉感受,从 ...

  2. Times33算法与最快的Hash表

    关于times33算法 不约而同的,几乎所有的流行的hash map都采用了DJB hash function,俗称"Times33"算法.Perl.Berkeley DB .Ap ...

  3. 从头到尾彻底解析Hash表算法

    从头到尾彻底解析Hash表算法 发布时间: 2013-10-02 10:26  阅读: 25156 次  推荐: 14   原文链接   [收藏]   作者:July.wuliming.pkuoliv ...

  4. 转 从头到尾彻底解析Hash表算法

    出处:http://blog.csdn.net/v_JULY_v.   说明:本文分为三部分内容,     第一部分为一道百度面试题Top K算法的详解:第二部分为关于Hash表算法的详细阐述:第三部 ...

  5. 哈希(hash)表查找速度为什么那么快?快在哪里了?

    先看数组存储数据是怎么样的. 现在有一个数组,它里面每个单元存储的是数据的地址 这叫指针数组吧,假设它有100个单元 我们称他为p[100] 现在我想把一百个数据(地址)放到里面 我们想把某个数据放到 ...

  6. hash表与系统顺序寻址

    hash表即散列表,它是基于高速存取的角度设计的,也是一种典型的"空间换时间"的做法.顾名思义,该数据结构能够理解为一个线性表,可是当中的元素不是紧密排列的,而是可能存在空隙. 散 ...

  7. 面试官问你什么是Hash表

    Hash表(哈希表),也叫散列表,在这之前还以为这是两种数据结构呢,不知道为啥他俩能扯上关系,翻译了一波才知道,hash就是把--弄乱;斩碎的意思,这下明白名字的由来了. 由于数组的查询快,增删慢,而 ...

  8. TCAM与HASH表的差异

    TCAM与HASH的区别,大家可以参考下面两个链接的内容: https://www.cnblogs.com/davidshisogood/p/15117752.html https://blog.cs ...

  9. hash表(学习笔记)

    hash表又叫散列表,是一种用来存放数据的数据结构.用于快速查询 hash表就是一种数组,输入关键字,通过hash函数得到,对应数据的下标.(hash值就是下标) hash函数根据关键字设计,主要原理 ...

最新文章

  1. android时间轴折线图,带时间轴的折线图
  2. VTK:Texture之TextureCutSphere
  3. HDLBits答案(13)_Verilog移位寄存器附加题
  4. linux命令:mkdir命令
  5. 面试--Linux命令总结
  6. idea编辑器中使用@Data注解无效解决办法
  7. Expression Blend实例中文教程(5) - 布局控件快速入门StackPanel,ScrollViewer和Border
  8. html雪花特效卡盟,吃鸡卡盟忍者必需死3 12月忍界试卷谜底一览
  9. linux把m4s格式转换mp4,批量将哔哩哔哩缓存M4S格式视频改成MP4格式
  10. 笔记本重装win7旗舰版原版操作系统
  11. (10) IFC中的构件与空间结构(IfcRelContainedInSpatialStructure) (Industry Foundation Class)
  12. android Activity设置透明主题样式方法
  13. JavaScript中的浮点运算
  14. Hunger Snake
  15. 小米5 Android 8.0解bl,小米8 刷机 解账号BL锁 隐藏帐户 免授权解锁刷机包-刷机之家...
  16. 开心一刻:今天下班后,我尾随一女同事,为她充当护花使者
  17. 用卡尔曼滤波器跟踪导弹(量测更新频率与时间更新频率不相等)
  18. 生日快乐网页模板(HTML5+CSS3+JS)
  19. oracle 授权同义词权限不足,创建同义词ora-01031权限不足
  20. 【学习笔记】Splay

热门文章

  1. 【辨异】inner, internal, interior, inward
  2. 数据挖掘比赛笔记总结
  3. 459.重复子字符串
  4. 大数据分析的作用与注意事项
  5. Hexo博文加密思路总结
  6. 线性回归和广义线性回归
  7. es6遍历树结构并判断_实现树形结构数据 es6
  8. python语言format用法_format()函数的定义和用法总结
  9. 自动控制原理_电容补偿的作用与自动控制原理
  10. matlab实验是啥,实验一 MATLAB的实验环境及基本命令.ppt