C++ std::unordered_map 中使用的默认哈希函数是啥？

Posted 2023-02-25

【中文标题】C++ std::unordered_map 中使用的默认哈希函数是啥？

【英文标题】：What is the default hash function used in C++ std::unordered_map?C++ std::unordered_map 中使用的默认哈希函数是什么？

【发布时间】：2013-10-25 01:24:52

【问题描述】：

我正在使用

unordered_map<string, int>

和

unordered_map<int, int>

每种情况下使用什么哈希函数，每种情况下发生冲突的可能性是多少？ 我将在每种情况下分别插入唯一字符串和唯一 int 作为键。

我有兴趣了解字符串和 int 键的哈希函数算法及其冲突统计信息。

【问题讨论】：

我觉得符合标准。不确定 unorderd_map 是什么。

unordered_map 就像哈希表...C++98 和 C++11 中的默认哈希函数有变化吗？

您标记了这个 C++11，但询问了 TR1。是哪个？

对不起@John Dibling，我将它标记为 C++11。我也编辑了标题，因为我认为这个问题更有意义；现在答案可以参考正式的标准。随意改回来；我发现你在这个网站上的经验比我多。

那你为什么提到tr1命名空间？

【参考方案1】：

使用了函数对象std::hash<>。

标准特化适用于所有内置类型，以及一些其他标准库类型 例如std::string 和std::thread。查看完整列表的链接。

对于要在 std::unordered_map 中使用的其他类型，您必须专门化 std::hash<> 或创建自己的函数对象。

冲突的可能性完全取决于实现，但考虑到整数被限制在定义的范围内，而字符串理论上是无限长的，我想说与字符串发生冲突的机会要大得多。

至于 GCC 中的实现，内置类型的特化只是返回位模式。以下是它们在bits/functional_hash.h 中的定义：

  /// Partial specializations for pointer types.
  template<typename _Tp>
    struct hash<_Tp*> : public __hash_base<size_t, _Tp*>
    
      size_t
      operator()(_Tp* __p) const noexcept
       return reinterpret_cast<size_t>(__p); 
    ;

  // Explicit specializations for integer types.
#define _Cxx_hashtable_define_trivial_hash(_Tp)     \
  template<>                        \
    struct hash<_Tp> : public __hash_base<size_t, _Tp>  \
                                                       \
      size_t                                            \
      operator()(_Tp __val) const noexcept              \
       return static_cast<size_t>(__val);             \
    ;

  /// Explicit specialization for bool.
  _Cxx_hashtable_define_trivial_hash(bool)

  /// Explicit specialization for char.
  _Cxx_hashtable_define_trivial_hash(char)

  /// ...

---

std::string 的特化定义为：

#ifndef _GLIBCXX_COMPATIBILITY_CXX0X
  /// std::hash specialization for string.
  template<>
    struct hash<string>
    : public __hash_base<size_t, string>
    
      size_t
      operator()(const string& __s) const noexcept
       return std::_Hash_impl::hash(__s.data(), __s.length()); 
    ;

一些进一步的搜索导致我们：

struct _Hash_impl

  static size_t
  hash(const void* __ptr, size_t __clength,
       size_t __seed = static_cast<size_t>(0xc70f6907UL))
   return _Hash_bytes(__ptr, __clength, __seed); 
  ...
;
...
// Hash function implementation for the nontrivial specialization.
// All of them are based on a primitive that hashes a pointer to a
// byte array. The actual hash algorithm is not guaranteed to stay
// the same from release to release -- it may be updated or tuned to
// improve hash quality or speed.
size_t
_Hash_bytes(const void* __ptr, size_t __len, size_t __seed);

_Hash_bytes 是来自libstdc++ 的外部函数。更多搜索使我找到了this file，其中指出：

// This file defines Hash_bytes, a primitive used for defining hash
// functions. Based on public domain MurmurHashUnaligned2, by Austin
// Appleby.  http://murmurhash.googlepages.com/

所以 GCC 对字符串使用的默认哈希算法是 MurmurHashUnaligned2。

【讨论】：

我有兴趣了解在字符串和整数键及其冲突统计的情况下哈希函数的算法。

@Medicine：标准没有规定，由库实现来决定最好的方法。您必须查看您的本地实施。例如，这个答案现在包括 GCC 的特定选择。

@Medicine：Visual Studio（自 VS2012 起）的默认哈希算法是 Fowler–Noll–Vo (FNV-1a)。

感谢@Avidanborisov，我的字符串都是独一无二的，大小在 14 到 21 之间，包括英文字母 _ 数字

链接到MurmurHash 源代码。也可通过github 获得。

【参考方案2】：

GCC C++11 使用“MurmurHashUnaligned2”，作者 Austin Appleby

​​>

虽然散列算法依赖于编译器，但我将在 GCC C++11 中展示它。 @Avidan Borisov astutely discovered 用于字符串的 GCC 散列算法是 Austin Appleby 的“MurmurHashUnaligned2”。我做了一些搜索，在 Github 上找到了 GCC 的镜像副本。因此：

用于unordered_map（哈希表模板）和unordered_set（哈希集模板）的 GCC C++11 哈希函数如下所示。

Thanks to Avidan Borisov 他的背景研究，关于使用了什么 GCC C++11 散列函数的问题，指出 GCC 使用了 Austin Appleby 的“MurmurHashUnaligned2”的实现（参见 http://murmurhash.googlepages.com/和https://github.com/aappleby/smhasher)。 在文件“gcc/libstdc++-v3/libsupc++/hash_bytes.cc”中，在这里（https://github.com/gcc-mirror/gcc/blob/master/libstdc++-v3/libsupc++/hash_bytes.cc），我找到了实现。例如，这是“32 位 size_t”返回值的值（2017 年 8 月 11 日提取）

代码：

// Implementation of Murmur hash for 32-bit size_t.
size_t _Hash_bytes(const void* ptr, size_t len, size_t seed)

  const size_t m = 0x5bd1e995;
  size_t hash = seed ^ len;
  const char* buf = static_cast<const char*>(ptr);

  // Mix 4 bytes at a time into the hash.
  while (len >= 4)
  
    size_t k = unaligned_load(buf);
    k *= m;
    k ^= k >> 24;
    k *= m;
    hash *= m;
    hash ^= k;
    buf += 4;
    len -= 4;
  

  // Handle the last few bytes of the input array.
  switch (len)
  
    case 3:
      hash ^= static_cast<unsigned char>(buf[2]) << 16;
      [[gnu::fallthrough]];
    case 2:
      hash ^= static_cast<unsigned char>(buf[1]) << 8;
      [[gnu::fallthrough]];
    case 1:
      hash ^= static_cast<unsigned char>(buf[0]);
      hash *= m;
  ;

  // Do a few final mixes of the hash.
  hash ^= hash >> 13;
  hash *= m;
  hash ^= hash >> 15;
  return hash;

Austin Appleby 哈希函数的最新版本是“MurmurHash3”，它已发布到公共领域！

奥斯汀州in his readme：

SMHasher 套件还包括 MurmurHash3，这是 MurmurHash 函数系列中的最新版本 - 新版本更快、更健壮，其变体可以产生 32 位和 128 位哈希在 x86 和 x64 平台上都有效地实现了价值。

MurmurHash3 的源代码见这里：

MurmurHash3.h MurmurHash3.cpp

最棒的是！？这是公共领域软件。这是正确的！文件顶部状态：

// MurmurHash3 was written by Austin Appleby, and is placed in the public
// domain. The author hereby disclaims copyright to this source code.

所以，如果您想在您的开源软件、个人项目或专有软件中使用 MurmurHash3，包括在 C 中实现您自己的哈希表，那就去吧！

如果您想要构建说明来构建和测试他的 MurmurHash3 代码，我在这里写了一些：https://github.com/ElectricRCAircraftGuy/smhasher/blob/add_build_instructions/build/README.md。希望this PR I've opened 被接受，然后他们将最终出现在他的主仓库中。但是，在那之前，请参阅我的 fork 中的构建说明。

对于其他散列函数，包括djb2，以及 K&R 散列函数的 2 个版本...

...（一个显然很糟糕，一个非常好），请在此处查看我的另一个答案：hash function for string。

另见：

https://en.wikipedia.org/wiki/MurmurHash 进一步研究：看看这些哈希函数速度基准：https://github.com/fredrikwidlund/hash-function-benchmark（感谢@lfmunoz for pointing this out）

【讨论】：

github.com/fredrikwidlund/hash-function-benchmark 基准包括 MurmerHash3 和常规 C++ 11 哈希。测量的性能存在很大差异。如果两者都使用相同的算法，这没有意义

@lfmunoz，感谢分享基准。虽然它们不是相同的算法。 GCC 对 C++11 的实现使用了MurmurHashUnaligned2。 MurmerHash3 是一个单独的算法，也是由 Austin Appleby 开发的。它们不是同一个算法。 MurmerHash3 是他最新和最伟大的作品，不属于 GCC 的 C++11。我会假设MurmerHash3 比 Murmer Hash 2 更好（在速度上），否则将它作为后续版本发布几乎或没有意义，除非它是一种权衡并且它可能更慢但有一些其他优势例如更好的存储桶分布和更少的冲突。

@lfmunoz，同样，该基准图表的顶部显示clang v3.6.0。这意味着他们不使用 GCC 编译器，所以我不能说他们使用的是什么哈希算法。这可能是完全不同的东西。你得去拉那个版本的clang编译器的源代码看看。

拼写修正：MurmerHash3 应该是 MurmurHash3 (e --> u)。