编辑距离算法(Levenshtein)

时间:2024-04-04 14:38:09

编辑距离定义

编辑距离,又称Levenshtein距离,是指两个字串之间,由一个转成另一个所需的最少编辑操作次数。

许可的编辑操作包括:将一个字符替换成另一个字符,插入一个字符,删除一个字符。

例如将eeba转变成abac:

  1. eba(删除第一个e)
  2. aba(将剩下的e替换成a)
  3. abac(在末尾插入c)

所以eeba和abac的编辑距离就是3

俄罗斯科学家Vladimir Levenshtein在1965年提出这个概念。

算法

算法就是简单的线性动态规划(最长上升子序列就属于线性动态规划)。

设我们要将s1变成s2

定义状态矩阵edit[len1][len2],len1和len2分别是要比较的字符串s1和字符串s2的长度+1(+1是考虑到动归中,一个串为空的情况)

然后,定义edit[i][j]是s1中前i个字符组成的串,和s2中前j个字符组成的串的编辑距离

具体思想是,对于每个i,j从0开始依次递增,对于每一次j++,由于前j-1个字符跟i的编辑距离已经求出,所以只用考虑新加进来的第j个字符即可

插入操作:在s1的前i个字符后插入一个字符ch,使得ch等于新加入的s2[j]。于是插入字符ch的编辑距离就是edit[i][j-1]+1

删除操作:删除s1[i],以期望s1[i-1]能与s2[j]匹配(如果s1[i-1]前边的几个字符能与s2[j]前边的几个字符有较好的匹配,那么这么做就能得到更好的结果)。另外,对于s1[i-1]之前的字符跟s2[j]匹配的情况,edit[i-1][j]中已经考虑过。于是删除字符ch的编辑距离就是edit[i-1][j]+1

替换操作:期望s1[i]与s2[j]匹配,或者将s1[i]替换成s2[j]后匹配。于是替换操作的编辑距离就是edit[i-1][j-1]+f(i,j)。其中,当s1[i]==s2[j]时,f(i,j)为0;反之为1

于是动态规划公式如下:

  • if i == 0 且 j == 0,edit(i, j) = 0
  • if i == 0 且 j > 0,edit(i, j) = j
  • if i > 0 且j == 0,edit(i, j) = i
  • if 0 < i ≤ 1  且 0 < j ≤ 1 ,edit(i, j) == min{ edit(i-1, j) + 1, edit(i, j-1) + 1, edit(i-1, j-1) + f(i, j) },当第一个字符串的第i个字符不等于第二个字符串的第j个字符时,f(i, j) = 1;否则,f(i, j) = 0。

Python实现:

官方扩展包:

python有一个官方扩展包(在pypi里面,即python package index),叫做python-Levenshtein,这个包不仅可以计算编辑距离,还能计算hamming(汉明)距离,Jaro-Winkler距离等,链接如下:

https://pypi.python.org/pypi/python-Levenshtein

下载python-Levenshtein-0.10.2.tar.gz,解压后,cd到解压后的文件夹,执行:

python setup.py build

python setup.py install

即可。

注意:如果没有安装setuptools的话要先安装setuptools,链接如下:

https://pypi.python.org/pypi/setuptools/

下载setuptools 0.6c11即可,解压后,cd到对应目录,执行:

python setup.py build

python setup.py install

即可。

检查是否安装成功:进入python,执行from Levenshtein import *,如果没有报错则安装成功

具体使用方法见如下博文(这边博文下方还有完整的使用文档的连接):

http://www.cnblogs.com/kaituorensheng/archive/2013/05/18/3085653.html

注意:如果采用from Levenshtein import *导入,则调用函数的时候不用加Levenshtein.

例如:直接调用distance(str1, str2)即可计算编辑距离

简单的实现代码:

如果你想要更加轻量级的实现的话,就用下面的代码吧:

(选自边苏涛的博客,http://biansutao.iteye.com/blog/326008

    1. #!/user/bin/env python
    2. # -*- coding: utf-8 -*-
    3. class arithmetic():
    4. def __init__(self):
    5. pass
    6. ''''' 【编辑距离算法】 【levenshtein distance】 【字符串相似度算法】 '''
    7. def levenshtein(self,first,second):
    8. if len(first) > len(second):
    9. first,second = second,first
    10. if len(first) == 0:
    11. return len(second)
    12. if len(second) == 0:
    13. return len(first)
    14. first_length = len(first) + 1
    15. second_length = len(second) + 1
    16. distance_matrix = [range(second_length) for x in range(first_length)]
    17. #print distance_matrix
    18. for i in range(1,first_length):
    19. for j in range(1,second_length):
    20. deletion = distance_matrix[i-1][j] + 1
    21. insertion = distance_matrix[i][j-1] + 1
    22. substitution = distance_matrix[i-1][j-1]
    23. if first[i-1] != second[j-1]:
    24. substitution += 1
    25. distance_matrix[i][j] = min(insertion,deletion,substitution)
    26. print distance_matrix
    27. return distance_matrix[first_length-1][second_length-1]
    28. if __name__ == "__main__":
    29. arith = arithmetic()
    30. print arith.levenshtein('GUMBOsdafsadfdsafsafsadfasfadsfasdfasdfs','GAMBOL00000000000dfasfasfdafsaf