数据结构基础--哈希表

栏目: 数据库 · 发布时间: 6年前

内容简介:通过大量的异或,交换。打乱原本的样本结构,放大样本差异。正常一个hash函数的结果h为16字节,每个字节为一个16进制(0~9,a~f中的)的任意值。将前8为作为h1,后8位作为h2。通过h1 + k * h2生成一个新的结果。并且他将于原本的h无关。

通过大量的异或,交换。打乱原本的样本结构,放大样本差异。

生成不相关的hash函数

正常一个hash函数的结果h为16字节,每个字节为一个16进制(0~9,a~f中的)的任意值。将前8为作为h1,后8位作为h2。

通过h1 + k * h2生成一个新的结果。并且他将于原本的h无关。

哈希函数特性的使用

大任务( hash % n )分流成N个小任务。

经典哈希表

经典的哈希表结构通过数组+链表的结构实现

哈希表的结构

哈希表的本质是一个数组,数组中每一个元素称为一个箱子(bin),箱子中存放的是链表,链表节点中存放的键值对。

哈希表存储的过程

  1. 根据 key 计算出它的哈希值 h。
  2. 假设箱子的个数为 n,那么这个键值对应该放在第 (h % n) 个箱子中。
  3. 哈希值h相同,通过链表存储在同一个箱子中。

自动扩容

当哈希表的效率因数组量过大造成损耗,进行扩容并重新简历哈希表

  1. 当某一个链表上的节点个数超过某个系数(负载因子),将进行扩容。
  2. 扩容可以是离线的(在非活跃状态下进行扩容,重建哈希表,重建结束后再使用新的哈希表)

增删改查的时间复杂度

对key进行hash,通过下标寻址,查找一个短链表均为常数时间操作。

时间复杂度===》O(1)

设计RandomPool结构

【题目】 设计一种结构,在该结构中有如下三个功能:

  1. insert(key):将某个key加入到该结构,做到不重复加入。

  2. delete(key):将原本在结构中的某个key移除。

  3. getRandom(): 等概率随机返回结构中的任何一个key。

【要求】 Insert、delete和getRandom方法的时间复杂度都是 O(1)

需要的结构:

两个哈希表,一个size变量计数

每次添加一个新的key23:

  1. 令size+1
  2. 将key23作为key,size作为value,记录在第一个hashMap中
  3. 将size作为key,key23作为value,记录在第二个haskMap中

读取随机key时,在第二个hashMap中用(1~size)作为key进行查询返回

数据结构基础--哈希表

删除key时,将末尾元素与删除元素的index互换,删除该元素。并将size-1。

数据结构基础--哈希表

布隆过滤器BloomFilter

布隆过滤器可以用于检索一个元素是否在一个集合中。它的优点是空间效率和查询时间都比一般的算法要好的多,缺点是有一定的误识别率和删除困难。

可以解决爬虫去重,黑名单问题。

实现一个bit类型数组,将数据容量扩容

  1. 建立一个[基础类型]类型的数组
  2. 一个Int类型可以表示成32bit的二进制数据,long类型则是64bit
  3. 一个[Int]数组将是普通数组的32倍容量

以一个100长度的Int数组([bit]长度为3200)arr为例,当我们想修改第3000个bit:

  1. 3000/32获得arr组的indexI

  2. 3000%32获得arr[indexI]下,[bit]想要修改的indexB

  3. 通过 arr[indexI] = (arr[IndexI] | (1 << indexB)) 进行修改

    1 左移 indexB 个位置,将会变成 00000010000 这种形式。然后与原本的 arr[IndexI] 相交,对应位置将会被修改为 1

可以用矩阵,将数据容量继续扩容

以Int数组为例

[1000]的数组可以代表3200个bit位

[1000][1000]的矩阵则可以代表3200*1000个bit位

布隆过滤器的实现

  1. 准备一个长度为m的数组,通常是bit数组
  2. 将指定的key用一个hash函数求出hash值
  3. 将hash % m 确定一个位置,并将该位置从0修改成1
  4. 重复用k不相关个hash函数,确定多个位置并修改成1

经过这个处理之后的数组,就是布隆过滤器。

  1. 当一个新的key进行查询时,也通过多次hash计算,确定是否存在于布隆过滤器

布隆过滤器的误差

由于数组长度的限制,有可能导致描黑位置过多,导致失误命中概率过高。

通过调整hash函数个个数k,以及数组长度m。可以得到不同的失误率。

布隆过滤器的优势

由于内部通过hash函数定位,最终过滤器所占内存的大小与单样本的内存大小无关。

比如一个长度为1000000的字符串,也并不需要存进数组。只需要在数组中修改k个位置即可。

布隆过滤器长度公式

[bit]的长度m,样本量n,预期失误率p,ln是自然对数

数据结构基础--哈希表

布隆过滤器hash函数个数公式

数据结构基础--哈希表

布隆过滤器真是失误率

当m和k确定之后的失误率

数据结构基础--哈希表

经典服务器抗压结构

通过对key进行hash % n 可以将读写的压力均匀的分布给三个服务器

数据结构基础--哈希表

而这种结构,当加入新的服务器或减少原有的服务器。我们需要像hashMap的自动扩容一样需要重建整个映射。


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

Spark技术内幕

Spark技术内幕

张安站 / 机械工业出版社 / 2015-9-1

Spark是不断壮大的大数据分析解决方案家族中备受关注的新增成员。它不仅为分布式数据集的处理提供一个有效框架,而且以高效的方式处理分布式数据集。它支持实时处理、流处理和批处理,提供了AllinOne的统一解决方案,使得Spark极具竞争力。 本书以源码为基础,深入分析Spark内核的设计理念和架构实现,系统讲解各个核心模块的实现,为性能调优、二次开发和系统运维提供理论支持;本文最后以项目实战......一起来看看 《Spark技术内幕》 这本书的介绍吧!

随机密码生成器
随机密码生成器

多种字符组合密码

XML、JSON 在线转换
XML、JSON 在线转换

在线XML、JSON转换工具

HEX HSV 转换工具
HEX HSV 转换工具

HEX HSV 互换工具