Python 基于KNN算法的手写识别系统

Posted 2020-09-23

本文主要利用k-近邻分类器实现手写识别系统，训练数据集大约2000个样本，每个数字大约有200个样本，每个样本保存在一个txt文件中，手写体图像本身是32X32的二值图像，如下图所示：

 

手写数字识别系统的测试代码：

from numpy import *

import operator

from os import listdir

 

#inX    要检测的数据

#dataSet   数据集

#labels    结果集

#k      要对比的长度

def classify0(inX, dataSet, labels, k):

    dataSetSize = dataSet.shape[0]                 #计算有多少行

    # tile(inX, (dataSetSize,1))生成对应inX维度的矩阵，方便做差

    diffMat = tile(inX, (dataSetSize,1)) - dataSet

    sqDiffMat = diffMat**2                          #差求平方

    sqDistances = sqDiffMat.sum(axis=1)             # axis=0, 表示列 axis=1, 表示行。

    distances = sqDistances**0.5                   #开方

    sortedDistIndicies = distances.argsort()       #argsort()排序，求下标

    classCount={}

    for i in range(k):

        voteIlabel = labels[sortedDistIndicies[i]]   #通过下标索引分类

        # 通过构造字典，记录分类频数

        classCount[voteIlabel] = classCount.get(voteIlabel,0) + 1

        # 对字段按值排序（从大到小）

        sortedClassCount = sorted(classCount.items(),key=lambda classCount:classCount[1], reverse=True)

    return sortedClassCount[0][0]

 

#手写字体识别

#首先，我们需要将图像格式化处理为一个向量，

# 把一个32X32的二进制图像矩阵通过img2vector()函数转换为1X1024的向量：

def img2vector(filename):

    returnVect = zeros((1,1024))

    fr = open(filename)

    for i in range(32): #图片矩阵为32*32

        lineStr = fr.readline()   #数据量大，所以使用readline

        for j in range(32):

            returnVect[0,32*i+j] = int(lineStr[j])

    return returnVect

 

#手写字体识别

def handwritingClassTest():

    hwLabels = []

    trainingFileList = listdir(r‘trainingDigits‘)           #指定文件夹

    m = len(trainingFileList)                                 #获取文件夹个数

    trainingMat = zeros((m,1024))                             #构造m个1024比较矩阵

    for i in range(m):

        fileNameStr = trainingFileList[i]          #获取文件名

        fileStr = fileNameStr.split(‘.‘)[0]        #按点把文件名字分割

        classNumStr = int(fileStr.split(‘_‘)[0])   #按下划线把文件名字分割

        hwLabels.append(classNumStr)               #实际值添加保存

        trainingMat[i,:] = img2vector(r‘trainingDigits/%s‘ % fileNameStr)

        testFileList = listdir(‘testDigits‘)        #测试数据

        errorCount = 0.0

        mTest = len(testFileList)

    for i in range(mTest):#同上，处理测试数据

        fileNameStr = testFileList[i]

        fileStr = fileNameStr.split(‘.‘)[0]     #take off .txt

        classNumStr = int(fileStr.split(‘_‘)[0])

        vectorUnderTest = img2vector(r‘testDigits/%s‘ % fileNameStr)

        classifierResult = classify0(vectorUnderTest, trainingMat, hwLabels, 3)

        print ("计算值: %d, 实际值: %d" % (classifierResult, classNumStr))

        if (classifierResult != classNumStr): errorCount += 1.0

    print ("\\n错误出现次数: %d" % errorCount)

    print ("\\n错误率: %f" % (errorCount/float(mTest)))

handwritingClassTest()

结果：

 

计算值: 9, 实际值: 9

计算值: 9, 实际值: 9

计算值: 9, 实际值: 9

计算值: 9, 实际值: 9

计算值: 9, 实际值: 9

计算值: 9, 实际值: 9

 

错误出现次数: 10

 

错误率: 0.010571

 

可以看到KNN算法对内存消耗很大（本人12G），中文环境识别不敢想象。