Python学习之k-近邻实例

时间：2022-05-28 03:06:55

　　海伦收集约会数据巳经有了一段时间，她把这些数据存放在文本文件datingTestSet.txt中，每个样本数据占据一行，总共有 1000 行。海伦的样本主要包含以下 3 种特征：
　　1. 每年获得的飞行常客里程数
　　2. 玩视频游戏所耗时间百分比
　　3. 每周消费的冰淇淋公升数
　　在将上述特征数据输人到分类器之前，必须将待处理数据的格式改变为分类器可以接受的格式。在 kNN.py 中创建名为 file2matrix的函数，以此来处理输人格式问题。该函数的输人为文件名字符串输出为训练样本矩阵和类标签向量，整体程序如下：

1. 读取测试数据文件

 # 读取测试数据文件

 def read_file(filename):

     datafile = open(filename)

     lines = datafile.readlines();

     length = len(lines)

     marix = zeros((length,))

     classLabelVector = []

     index =

     for line in lines:

         line = line.rstrip()

         words = line.split("\t")

         marix[index,:]=words[:]

         classLabelVector.append(float(words[-]))

         index = index +

     return marix,classLabelVector

2. 测试数据归一化

　　在处理不同取值范围的特征值时，我们通常采用的方法是将数值归一化，如将取值范围处理为0到1或者-1到1之间，下面的公式可以将任意取值范围的特征值转化为0到1区间内的值 ：newValue = (oldValue-min)/(max-min)，具体程序如下：

 def autoNorm(dataSet):

     minVals = dataSet.min()

     maxVals = dataSet.max()

     range = maxVals - minVals

     normDataSet = zeros(shape(dataSet))

     m = dataSet.shape[]

     normDataSet = dataSet - tile(minVals,(m,))

     normDataSet = normDataSet/tile(range,(m,))

     return normDataSet,range,minVals

3. 分类器

　　主要是利用测试数据对前面创建的分类器进行验证，测试分类器的效果

 def classify(inX,dataSet,labels,k):

     dataSetSize = dataSet.shape[]

     diffMat = tile(inX,(dataSetSize,))-dataSet

     sqDiffMat = diffMat**

     sqDistances = sqDiffMat.sum(axis=)

     distances = sqDistances**0.5

     sortedDistIndices = distances.argsort()

     classCount={}

     for i in range(k):

         voteIlabel = labels[sortedDistIndices[i]]

         classCount[voteIlabel] = classCount.get(voteIlabel,)+

     sortedClassCount = sorted(classCount.iteritems(),key=operator.itemgetter(),reverse=True)

     return sortedClassCount[][]

4. 测试

 def datingClassTest():

     resultList = ['一点也不喜欢','有一点好感','特别喜欢']

     hoRatio = 0.1

     filename = 'E:\\datingTestSet2.txt';

     (marix,classLabel)=read_file(filename)

     normdataSet,ranges,minVals=autoNorm(marix)

     m = normdataSet.shape[]

     numTestVecs = int(m*hoRatio)

     errorCount = 0.0

     for i in range(numTestVecs):

         classResult = classify(normdataSet[i,:],normdataSet[numTestVecs:m,:],classLabel[numTestVecs:m],)

         print "你对这个人的感觉是：%s ，现实情况是：%s" %(resultList[int(classResult-)],resultList[int(classLabel[i]-)])

         if classResult != classLabel[i]:

             errorCount += 1.0

     print "错误率是: %f " %(errorCount/float(numTestVecs))

5. 测试结果

你对这个人的感觉是：一点也不喜欢 ，现实情况是：一点也不喜欢

你对这个人的感觉是：一点也不喜欢 ，现实情况是：一点也不喜欢

你对这个人的感觉是：一点也不喜欢 ，现实情况是：一点也不喜欢

你对这个人的感觉是：特别喜欢 ，现实情况是：特别喜欢

你对这个人的感觉是：特别喜欢 ，现实情况是：特别喜欢

你对这个人的感觉是：一点也不喜欢 ，现实情况是：一点也不喜欢

你对这个人的感觉是：特别喜欢 ，现实情况是：特别喜欢

你对这个人的感觉是：一点也不喜欢 ，现实情况是：一点也不喜欢

你对这个人的感觉是：一点也不喜欢 ，现实情况是：一点也不喜欢

...

　　所有程序均来自《机器学习实战》，非常好的书籍，推荐大家学习一下......

相关文章