编辑距离算法(Levenshtein)

Posted 致林

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了编辑距离算法(Levenshtein)相关的知识,希望对你有一定的参考价值。

编辑距离定义

编辑距离,又称Levenshtein距离,是指两个字串之间,由一个转成另一个所需的最少编辑操作次数。

许可的编辑操作包括:将一个字符替换成另一个字符,插入一个字符,删除一个字符。

例如将eeba转变成abac:

  1. eba(删除第一个e)
  2. aba(将剩下的e替换成a)
  3. abac(在末尾插入c)

所以eeba和abac的编辑距离就是3

俄罗斯科学家Vladimir Levenshtein在1965年提出这个概念。

 

算法

算法就是简单的线性动态规划(最长上升子序列就属于线性动态规划)。

设我们要将s1变成s2

定义状态矩阵edit[len1][len2],len1和len2分别是要比较的字符串s1和字符串s2的长度+1(+1是考虑到动归中,一个串为空的情况)

然后,定义edit[i][j]是s1中前i个字符组成的串,和s2中前j个字符组成的串的编辑距离

具体思想是,对于每个i,j从0开始依次递增,对于每一次j++,由于前j-1个字符跟i的编辑距离已经求出,所以只用考虑新加进来的第j个字符即可

插入操作:在s1的前i个字符后插入一个字符ch,使得ch等于新加入的s2[j]。于是插入字符ch的编辑距离就是edit[i][j-1]+1

删除操作:删除s1[i],以期望s1[i-1]能与s2[j]匹配(如果s1[i-1]前边的几个字符能与s2[j]前边的几个字符有较好的匹配,那么这么做就能得到更好的结果)。另外,对于s1[i-1]之前的字符跟s2[j]匹配的情况,edit[i-1][j]中已经考虑过。于是删除字符ch的编辑距离就是edit[i-1][j]+1

替换操作:期望s1[i]与s2[j]匹配,或者将s1[i]替换成s2[j]后匹配。于是替换操作的编辑距离就是edit[i-1][j-1]+f(i,j)。其中,当s1[i]==s2[j]时,f(i,j)为0;反之为1

于是动态规划公式如下:

 

  • if i == 0 且 j == 0,edit(i, j) = 0
  • if i == 0 且 j > 0,edit(i, j) = j
  • if i > 0 且j == 0,edit(i, j) = i
  • if 0 < i ≤ 1  且 0 < j ≤ 1 ,edit(i, j) == min{ edit(i-1, j) + 1, edit(i, j-1) + 1, edit(i-1, j-1) + f(i, j) },当第一个字符串的第i个字符不等于第二个字符串的第j个字符时,f(i, j) = 1;否则,f(i, j) = 0。

 

 

Python实现:

官方扩展包:

python有一个官方扩展包(在pypi里面,即python package index),叫做python-Levenshtein,这个包不仅可以计算编辑距离,还能计算hamming(汉明)距离,Jaro-Winkler距离等,链接如下:

https://pypi.python.org/pypi/python-Levenshtein

下载python-Levenshtein-0.10.2.tar.gz,解压后,cd到解压后的文件夹,执行:

python setup.py build

python setup.py install

即可。

注意:如果没有安装setuptools的话要先安装setuptools,链接如下:

https://pypi.python.org/pypi/setuptools/

下载setuptools 0.6c11即可,解压后,cd到对应目录,执行:

 

python setup.py build

python setup.py install

即可。

检查是否安装成功:进入python,执行from Levenshtein import *,如果没有报错则安装成功

具体使用方法见如下博文(这边博文下方还有完整的使用文档的连接):

http://www.cnblogs.com/kaituorensheng/archive/2013/05/18/3085653.html

注意:如果采用from Levenshtein import *导入,则调用函数的时候不用加Levenshtein.

例如:直接调用distance(str1, str2)即可计算编辑距离

 

简单的实现代码:

如果你想要更加轻量级的实现的话,就用下面的代码吧:

(选自边苏涛的博客,http://biansutao.iteye.com/blog/326008

 

[python] view plain copy
 
    1. #!/user/bin/env python  
    2. # -*- coding: utf-8 -*-  
    3.   
    4. class arithmetic():  
    5.       
    6.     def __init__(self):  
    7.         pass  
    8.     \'\'\'\'\' 【编辑距离算法】 【levenshtein distance】 【字符串相似度算法】 \'\'\'  
    9.     def levenshtein(self,first,second):  
    10.         if len(first) > len(second):  
    11.             first,second = second,first  
    12.         if len(first) == 0:  
    13.             return len(second)  
    14.         if len(second) == 0:  
    15.             return len(first)  
    16.         first_length = len(first) + 1  
    17.         second_length = len(second) + 1  
    18.         distance_matrix = [range(second_length) for x in range(first_length)]   
    19.         #print distance_matrix  
    20.         for i in range(1,first_length):  
    21.             for j in range(1,second_length):  
    22.                 deletion = distance_matrix[i-1][j] + 1  
    23.                 insertion = distance_matrix[i][j-1] + 1  
    24.                 substitution = distance_matrix[i-1][j-1]  
    25.                 if first[i-1] != second[j-1]:  
    26.                     substitution += 1  
    27.                 distance_matrix[i][j] = min(insertion,deletion,substitution)  
    28.         print distance_matrix  
    29.         return distance_matrix[first_length-1][second_length-1]  
    30.       
    31. if __name__ == "__main__":  
    32.     arith = arithmetic()  
    33.     print arith.levenshtein(\'GUMBOsdafsadfdsafsafsadfasfadsfasdfasdfs\',\'GAMBOL00000000000dfasfasfdafsaf

以上是关于编辑距离算法(Levenshtein)的主要内容,如果未能解决你的问题,请参考以下文章

Levenshtein距离编辑距离算法字符串相似度算法

C#实现Levenshtein distance最小编辑距离算法

计算两组标签相似度算法——levenshtein distance 编辑距离算法

Levenshtein Distance莱文斯坦距离算法来计算字符串的相似度

编辑距离算法详解:Levenshtein Distance算法

计算字符串距离