理解 Baeza-Yates Régnier 算法(多字符串匹配,从 Boyer-Moore 扩展)
Posted
技术标签:
【中文标题】理解 Baeza-Yates Régnier 算法(多字符串匹配,从 Boyer-Moore 扩展)【英文标题】:Understanding the Baeza-Yates Régnier algorithm (multiple string matching, extended from Boyer-Moore) 【发布时间】:2014-06-27 21:16:58 【问题描述】:首先,请原谅我写的很多,我试图总结一下我的研究,以便每个人都能理解。
R。 Baeza-Yates 和 M. Regnier 在 1990 年发表了一种用于在二维 nn 文本中搜索二维 mm 模式的新算法。 The publication 写得很好,对于像我这样的新手来说很容易理解,算法是用伪代码描述的,我能够成功地实现它。
BYR 算法的一部分需要 Aho-Corasick 算法。这允许在字符串文本中搜索多个关键字的出现。但是,他们也表示,他们算法的这一部分可以通过使用 Aho-Corasick 而不是使用 Commentz-Walter 算法(基于 Boyer-Moore 而不是 Knuth-Morris-Pratt 算法)得到很大改进。他们唤起了他们自己开发的 Commentz-Walter 算法的替代方案。这在their previous publication 中进行了描述和解释(参见第 4 章)。
这就是我的问题所在。正如我所说,该算法会遍历文本并检查它是否包含关键字集中的单词。单词被颠倒排列并放置在一棵树上。为了提高效率,当他知道没有找到匹配项时,有时需要跳过一些字母。
要确定可以跳过的字符数,必须计算两个表 d
和 dd
。那么,算法就很简单了:
算法的工作原理如下:
我们将 trie 的根与文本中的位置 m 对齐,并按照相应的从右到左开始匹配文本 trie 中的路径。 如果找到匹配项(最终节点),我们输出相应字符串的索引。 在匹配或不匹配之后,我们使用与当前节点关联的最大移位(表示 dd)在文本中进一步移动 trie,并且 d[x] 的值,其中 x 是文本中对应的字符 trie 的根。 在新位置从右到左重新开始匹配 trie。
我的问题是我不知道如何计算dd
函数。 R. Baeza-Yates 和 M. Regnier 在他们的出版物中提出了它的正式定义:
pi 是一组关键字中的一个单词,j 是这个单词中一个字母的索引,所以 pi[j] 就像我之前展示的 trie 中的一个节点。节点中的数字表示 dd(node)。 L 是单词数,mi 是单词 pi 中的字母数。
他们没有说明这个函数的构造。他们只推荐观看the work of W. Rytter。本文档构建了一个类似于预期的函数,不同之处在于在这种情况下,只有一个关键字,而不是一个集合。
dd(这里称为D)的定义如下:
可能会注意到与之前的定义有相似之处,但我并不完全理解。
这个函数的构造伪代码在论文中给出,我已经实现了,这里用C++:
int pattern[] = 1, 2, 3, 1 ; /* I use int instead of char, simpler */
const int n = sizeof(pattern) / 4;
int D[n];
int f[n];
int j = n;
int t = n + 1;
for (int k = 1; k <= n; k++)
D[k-1] = 2 * n - k;
while (j > 0)
f[j-1] = t;
while (t <= n)
if (pattern[j-1] != pattern[t-1])
D[t-1] = min(D[t-1], n - j);
t = f[t-1];
else
break;
t = t - 1;
j = j - 1;
int f1[n];
int q = t;
t = n + 1 - q;
int q1 = 1;
int j1 = 1;
int t1 = 0;
while (j1 <= t)
f1[j1 - 1] = t1;
while (t1 >= 1)
if (pattern[j1 - 1] != pattern[t1 - 1])
t1 = f1[t1 - 1];
else
break;
t1 = t1 + 1;
j1 = j1 + 1;
while (q < n)
for (int k = q1; k <= q; k++)
D[k - 1] = min(D[k - 1], n + q - k);
q1 = q + 1;
q = q + t - f1[t - 1];
t = f1[t - 1];
for (int i = 0; i < n; i++)
cout << D[i] << " ";
它有效,但我不知道如何将它扩展为几个词,我不知道如何与 Baeza-Yates 和 Régnier 给出的dd
的正式定义相吻合。我说这两个定义是相似的,但我不知道到什么程度。
我没有找到关于他们算法的任何其他信息,我不可能知道如何实现dd
的构造,但我正在寻找可能理解并告诉我如何到达那里的人,解释我是D
和dd
的定义之间的联系。
【问题讨论】:
我没有什么要贡献的,但看起来你在提出问题方面做得很好。 +1。 您可能还想在Computer Science 上发布此内容。 @500-InternalServerError 我做到了,谢谢。 【参考方案1】:我认为d[x]对应http://en.wikipedia.org/wiki/Boyer%E2%80%93Moore_string_search_algorithm中的坏字符规则,D对应同一篇文章中的好后缀规则。这意味着 d[x] 中的 x 不是树根中的字符,而是正在搜索的文本中与当前节点的子节点不匹配的第一个字符的值.
我认为这个想法与 Boyer-Moore 相同。只要有匹配,您就沿着树移动,当您有不匹配时,您知道两件事:导致不匹配的字符,以及到目前为止您匹配的子字符串。独立地考虑这些事情,你可能会发现,如果你沿着被搜索的文本移动 1,2,..k 位置,你仍然不会有匹配,因为在这些偏移处,导致不匹配的字符仍然会导致不匹配,或者先前匹配的文本部分在此偏移偏移处不匹配。所以你可以跳到没有被任何一个值排除的第一个偏移量。
实际上,这提出了一种变体方案,其中 d 和 DD 提供的不是数字而是位掩码,并且您和两个位图一起并根据仍然设置的第一位的位置进行移位。据推测,这并不能为您节省足够多的设置时间。
【讨论】:
以上是关于理解 Baeza-Yates Régnier 算法(多字符串匹配,从 Boyer-Moore 扩展)的主要内容,如果未能解决你的问题,请参考以下文章
[VBA-EXCEL]Lister les fichiers d';un répertoire donné