子字符串查找之————关于KMP算法你不知道的事

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了子字符串查找之————关于KMP算法你不知道的事相关的知识,希望对你有一定的参考价值。

写在前面:

(阅读本文前需要了解KMP算法的基本思路。另外,本着大道至简的思想,本文的所有例子都会做从头到尾的讲解)

 

在翻阅了大量网上现有的KMP算法博客后,发现广为流传的竟然是一种不完整的KMP算法。即通过next数组来作为有限状态自动机,以此实现非匹配时的回退。虽然这不失为一种好的方法。

但我想介绍一种更好和更完整的方法————拥有完整DFA的KMP算法

 

先列出本文要介绍的方法与一般方法对比下的几大优点

  1. 在最坏情况下,对字符串的操作次数仅为一般做法的三分之二。
  2. 在所有情况下,对字符串的操作数都小于等于一般做法。
  3. 思路上相对于一般做法更加完整细致,学习了它一定能让你对kmp有一个全新的认识。

 (读者可以在通读全文之后回头来看这几句话到底对不对)

 

一、关于有限状态自动机(什么是DFA)

kmp算法模拟了有限状态自动机的运行,一般算法中的next数组和本文中的dfa数组都是作为有限状态自动机的运行指导。

有限状态自动机不同,程序运行起来自然会存在不同。

在本文介绍的KMP算法中,我们使用二维数组DFA来作为有限状态自动机指导:

  1. 定义:DFA=new int[R][M],R为文本可能出现的字符种类(EXTENDED_ASCII的R为256位,一般情况下是够用了),M为模式字符串的长度。
  2. 空间:DFA占用空间上比next数组大了R倍,但空间的牺牲必然要迎来性能上的提升
  3. 储存内容:和next数组一样的是,DFA也储存了每个位置匹配失败时模式串的重启位置,但它更加详细,DFA针对了匹配失败时可能出现的不同字符对应了其特定的重启位置,这样的好处在后面的性能分析中会降到。

 

         图1 和模式字符串ABABAC对应的确定有限状态机自动机 

 

图一展示了模式字符串pat:ABABAC对应的确定有限状态机自动机

dfa[A][j]表示:模式串成功匹配到第j个位置时文本这时对应字符为\'A\'的情况下模式串下一个将要匹配的位置。

拿图1来说,dfa[A][3]表示匹配到模式串ABABAC的第三位时(B),文本对应的是A,这时模式串将回到dfa[A][3]=1,也就是将模式串回到ABABAC的第一位(B),然后继续下一位(也是就ABABAC中的第二位,这里是A)与文本的下一位继续比较。

似乎蛮复杂的,但理解了它的构造方法之,你就可以灵活使用它。

 

1、dfa的构造方法:

我们需要借助j和X来构造dfa,j指向当前的匹配位置,X是匹配失败时的重启位置。一开始j和X都设为0。

对于每个j,我们要做的是:

  1. 将daf[][X]复制到daf[][j](对于匹配失败的情况)
  2. 将daf[pat.charAt(j)][j]设为j+1(对于匹配成功的情况)
  3. 更新X

用代码表示如下:

(推荐读者先大概看看代码,再结合下面给出的完整例子,然后做代码运行调试)

dfa[pat.charAt(0)][0]=1;
for(int X=0,j=1;j<M;j++){//计算dfa[][j]
    for(int c=0;c<R;c++){//不匹配情况
        dfa[c][j]=dfa[c][X];
    }
    dfa[pat.charAt(j)][j]=j+1;
    X=dfa[pat.charAt(j)][X];
}    

 

在上面代码的基础上来演示一个完整的构造过程:

① j和X都为0,dfa[pat.charAt(0)][0]=1

 

② 进入for循环X=0,j=1:将X的列复制到j的列,再设dfa[pat.charAt(j)][j]=j+1,更新X

可以看到第三步更新X后X还是0,因为在第二步时X=dfa[pat.charAt(j)][X]=dfa[B][0]=0 (关于X变化的探讨接下来就会提到)

 

③ 第二次循环X=0,j=2:将X的列复制到j的列,再设dfa[pat.charAt(j)][j]=j+1,更新X

X=dfa[pat.charAt(j)][X]=dfa[A][0]=1

 

④ 第三次循环X=1,j=3:将X的列复制到j的列,再设dfa[pat.charAt(j)][j]=j+1,更新X

 

X=dfa[pat.charAt(j)][X]=dfa[B][1]=2

 

⑤ 第四次循环X=2,j=4:将X的列复制到j的列,再设dfa[pat.charAt(j)][j]=j+1,更新X

 

X=dfa[pat.charAt(j)][X]=dfa[A][2]=3

 

⑥ 第四次循环X=3,j=5:将X的列复制到j的列,再设dfa[pat.charAt(j)][j]=j+1,已经结束到最后一位,不用更新X

 

 

到这里就结束了模式字符串ABABAC的dfa构造最终得到的结果:

 

相信大家已经明白了dfa的构造思路

为巩固练习,下面请读者自己构造出模式字符串ABRACAD的daf,然后和下图对照一下是不是一样

 

2、关于X的一些问答:

值得一提的是,X是构造dfa的关键,下面几个问答有助于我们理解整个dfa构造。

为什么每次都能得出X的值?

答:因为X永远小于j,X走的是j走的老路。

为什么要把X列复制到j列?

答:dfa里记录了到每种状态时可能的所有选择,如果状态A发生不匹配时可以回到状态B继续匹配,那我们就可以先把状态B复制到状态A,这样在状态A不匹配时就可以直接使用状态B的方案。

X的位置何时会发生变化?

X的下一个位置与j当前指向的字符、j之前指向过的字符、X当前位置都有关,事实上不管j当前指向的字符在之前是否出现过,X都可能移动。

X的位置会怎么变化?

当每次j指向的字符与X指向的字符能够连续对应上的时候,X就会每次向后移一位(字符与前缀对应时X往后移)。

当j指向的字符在之前没有出现过,X就会指向0。

3、实例对问题的证明:

 

上图是模式ABCDE的dfa数组,可以观察到ABCDE中是没有出现重复字符的,所以到最后X依然指向0

对应极端情况,前面的字符出现重复达到了四次,X也是要移动四次,但只停留在3是因为模式串已经匹配完成,不需要再移动X。

 

关于X的移动,是需要读者自己在模拟dfa构造中细想的,想明白了就能全懂KMP,不明白就再看看上面的问题,尝试自己作答就会有新的心得。

 

二、改变搜索方法

有了强大的有限状态自动机,怎么用它呢?实际使用中是否比原来更强大呢?咱直接将两者的代码贴出来一顿对比,顺便说明精妙之处。

大体的思路是一样的,就是将txt字符串从头到尾循环一遍,过程中不断判断模式串的位置

 

1、先来看看一般方法中的搜索方法代码:

for(i=0;i<n;i++){
    while (j>-1&&txt.charAt(i)!=pat.charAt(j)){
        j=next[j];
    }
    if(j==-1||txt.charAt(i)==pat.charAt(j)){
        j++;
    }
    if(j==m){return i-j;
    }
}            

一边从头到尾循环,一边判断j是不是等于m,应该注意到的是,for循环中还包含了一个while,用来做回退和继续匹配的。

可以发现,这个过程中的操作次数必定是要大于i的(每次for循环都可能要加入while)

 

2、下面是使用dfa后的搜索方法:

for(j=0,i=0;i<N&&j<M;i++){
    j=dfa[txt.charAt(i)][j];
}
if(j==M){
    System.out.println("匹配成功");
    return i-M;
}else {
    System.out.println("匹配失败");
    return N;
}

可以看到,在for循环之后,直接进行匹配成功或失败的判断,整个过程的操作次数等于i,是小于一般方法的。

 

 

三、性能分析对比

①当字符串不匹配时(这是两种方法差异最大的地方):

使用DFA二维数组作为有限状态自动机,每次不匹配时都能到达精准位置(对每个不匹配的情况dfa都有记录在案)。

而使用next一维数组时,在每次匹配失败后到达的位置是不能确认的,它只是先到达可能的位置。

从可能的最长前缀位置,进行字符的匹配,如果不匹配再移到下一位可能的位置(下标在模式字符串上往前移)。

②当字符串匹配时

在两种方式中是一样的,i和j都加一,然后进入下一个for循环。

②最坏情况什么时候出现

对于一般方法:如果文本为AAAA,模式串为AAAB,这时匹配到最后一位时失败,j会一步步往前走,这时在搜索方法中操作次数达到了2n,加上构造next数组的n次操作,共3n次操作。

对于完整KMP算法:上面的情况并不会使它达到3n,因为在j一步步往前走的时候i也会往后走,当i达到n时for循环结束,这样最多也就操作n次,加上dfa数组的构造需要n次,共2n次操作。

结果:

可以看到,在通常情况下完整KMP算法的操作次数要比一般算法的操作次数少

即便是在最坏情况下完整KMP算法的操作次数也为一般方法的三分之二。

足以证明完整KMP的性能是更优的。

 

 

四、完整实现及测试代码(java)

 1 public class KMP {
 2     private String pat;
 3     private int dfa[][];
 4 
 5     public KMP(String pat){//由模式字符串构建dfa
 6         this.pat=pat;
 7         int M=pat.length();
 8         int R=256;
 9         dfa=new int[R][M];
10         dfa[pat.charAt(0)][0]=1;
11         for(int X=0,j=1;j<M;j++){//计算dfa[][j]
12             for(int c=0;c<R;c++){//不匹配情况
13                 dfa[c][j]=dfa[c][X];
14             }
15             dfa[pat.charAt(j)][j]=j+1;
16             X=dfa[pat.charAt(j)][X];
17         }
18     }
19 
20     public int search(String txt){
21         int N= txt.length();
22         int M=pat.length();
23         int j,i;
24         for(j=0,i=0;i<N&&j<M;i++){
25             j=dfa[txt.charAt(i)][j];
26         }
27         if(j==M){
28             System.out.println("匹配成功");
29             return i-M;
30         }else {
31             System.out.println("匹配失败");
32             return N;
33         }
34     }
35 }

测试例子:

1     @Test
2     public void KMPTest(){
3         KMP kmp=new KMP("abc");
4         System.out.println(kmp.search("abfeabcabc"));
5

以上是关于子字符串查找之————关于KMP算法你不知道的事的主要内容,如果未能解决你的问题,请参考以下文章

KMP算法板子

C++ 算法进阶系列之从 Brute Force 到 KMP 字符串匹配算法的优化之路

KMP算法(查找子序列)

数据结构开发(14):KMP 子串查找算法

KMP——模板 练手题

子字符查找KMP算法 - 子串自匹配索引表