import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
import os
from sklearn.neighbors import KNeighborsClassifier def build_data(dir_name):
"""
构建数据
:param dir_name: 指定传入文件夹名称
:return: 构建好的数据
"""
# 获取文件名列表
file_name_list = os.listdir(dir_name + "/")
print("获取到的文件名列表:\n", file_name_list)
# 进行读取文件 data = np.zeros(shape=(len(file_name_list), 1025)) # 循环读取文件
for file_index, file_name in enumerate(file_name_list):
# file_index 文本名称所对应的下标
# file_name 文本名称
# 加载数据
file_data = np.loadtxt(dir_name + "/" + file_name, dtype=np.str) # 构建一个列表
arr = []
for file_data_index, file_data_content in enumerate(file_data):
# print(file_data_content)
# print("*"*80)
# 将 每一个元素转化为一个int 类型的列表
arr_sigle_list = [int(tmp) for tmp in file_data_content]
# print(arr)
# 把每个元素添加到列表中
arr.append(arr_sigle_list) # print(arr)
# 将一个样本转化为数组
arr_single_sample = np.array(arr)
# print(arr_single_sample)
# np.savetxt("./hh.txt",arr_single_sample,fmt="%d")
# 将二维数组展开为一维---特征值
arr_single_sample = arr_single_sample.ravel()
# print(arr_single_sample)
# 目标值
label = int(file_name[0])
# print(res)
# print(arr_single_sample.shape)
# 将一个 完整的样本拼接起来,组成完整的样本
arr_single_sample = np.concatenate((arr_single_sample, [label]), axis=0) # print(arr_single_sample)
# print(arr_single_sample.shape) data[file_index, :] = arr_single_sample # print(data)
return data def save_data(file_name, data):
"""
保存文件
:param file_name: 保存的文件名称
:param data: 保存的数组
:return: None
"""
if not os.path.exists("./data/"):
os.makedirs("./data/") np.save("./data/" + file_name, data) def load_data(file_name):
"""
加载数据
:param file_name:文件路径+ 名称
:return: 数据
"""
data = np.load(file_name, allow_pickle=True) return data def distance(v1, v2):
"""
计算距离
:param v1: 点1
:param v2: 点2
:return: 距离
"""
dist = np.sqrt(np.sum(np.power((v1 - v2), 2))) return dist def knn_owns(train, test, k):
"""
自定knn算法实现手写字识别
:param train: 训练集数据
:param test: 测试集数据
:param k: 邻居个数
:return: 准确率
"""
# 设置计数器
true_num = 0
# 获取训练集的特征值 目标值
train_x = train.iloc[:, :-1].values
train_y = train.iloc[:, -1].values
# 获取测试集的特征值 目标值
test_x = test.iloc[:, :-1].values
test_y = test.iloc[:, -1].values
# 计算每一个测试样本特征与每一个训练样本特征的距离
for i in range(test.shape[0]): # 循环每一个 测试样本
for j in range(train.shape[0]):
# 计算距离
dist = distance(test_x[i,:],train_x[j,:])
train.loc[j,'dist'] = dist res = train.sort_values(by='dist') mode = res.iloc[:,-2][:k].mode()[0] if mode == test_y[i]:
true_num += 1
# print(test_y) score = true_num / test.shape[0] print(score) return score # train_data = build_data("./trainingDigits")
# test_data = build_data("./testDigits")
#
# save_data("train_data",train_data)
# save_data("test_data",test_data) # 加载数据
train = load_data("./data/train_data.npy")
test = load_data("./data/test_data.npy") train = pd.DataFrame(train)
test = pd.DataFrame(test) # print(train)
# print("*"*80)
# print(test)
k_list = [5,6,7,8,9,10]
score_list = []
for k in k_list:
# score = knn_owns(train, test, k)
# score_list.append(score)
knn = KNeighborsClassifier(n_neighbors=k)
#训练数据
knn.fit(train.iloc[:,:-1].values,train.iloc[:,-1].values)
# 进行预测
y_predict = knn.predict(test.iloc[:,:-1].values) # 可以获取准确率
score = knn.score(test.iloc[:,:-1].values,test.iloc[:,-1].values) score_list.append(score)
print(score_list) #进行结果可视化
# 1、创建画布
plt.figure()
# 默认不支持中文,需要配置RC 参数
plt.rcParams['font.sans-serif']='SimHei'
# 设置字体之后不支持负号,需要去设置RC参数更改编码
plt.rcParams['axes.unicode_minus']=False
# 2、绘图
x = np.array(k_list)
y = np.array(score_list) plt.plot(x,y) plt.title("k与准确率的关系走势图")
plt.xlabel("k值")
plt.ylabel("准确率")
plt.savefig("./k值对准确率的影响.png")
# 3、展示 plt.show()
knn算法手写字识别案例的更多相关文章
-
【Machine Learning】KNN算法虹膜图片识别
K-近邻算法虹膜图片识别实战 作者:白宁超 2017年1月3日18:26:33 摘要:随着机器学习和深度学习的热潮,各种图书层出不穷.然而多数是基础理论知识介绍,缺乏实现的深入理解.本系列文章是作者结 ...
-
用TensorFlow教你手写字识别
博主原文链接:用TensorFlow教你做手写字识别(准确率94.09%) 如需转载,请备注出处及链接,谢谢. 2012 年,Alex Krizhevsky, Geoff Hinton, and Il ...
-
k最邻近算法——使用kNN进行手写识别
上篇文章中提到了使用pillow对手写文字进行预处理,本文介绍如何使用kNN算法对文字进行识别. 基本概念 k最邻近算法(k-Nearest Neighbor, KNN),是机器学习分类算法中最简单的 ...
-
机器学习实战kNN之手写识别
kNN算法算是机器学习入门级绝佳的素材.书上是这样诠释的:“存在一个样本数据集合,也称作训练样本集,并且样本集中每个数据都有标签,即我们知道样本集中每一条数据与所属分类的对应关系.输入没有标签的新数据 ...
-
python 实现 KNN 分类器——手写识别
1 算法概述 1.1 优劣 优点:进度高,对异常值不敏感,无数据输入假定 缺点:计算复杂度高,空间复杂度高 应用:主要用于文本分类,相似推荐 适用数据范围:数值型和标称型 1.2 算法伪代码 (1)计 ...
-
tensorflow卷积神经网络与手写字识别
1.知识点 """ 基础知识: 1.神经网络(neural networks)的基本组成包括输入层.隐藏层.输出层.而卷积神经网络的特点在于隐藏层分为卷积层和池化层(po ...
-
k-近邻算法-手写识别系统
手写数字是32x32的黑白图像.为了能使用KNN分类器,我们需要把32x32的二进制图像转换为1x1024 1. 将图像转化为向量 from numpy import * # 导入科学计算包numpy ...
-
tensorflow神经网络与单层手写字识别
1.知识点 """ 1.基础知识: 1.神经网络结构:1.输入层 2.隐含层 3.全连接层(类别个数=全连接层神经元个数)+softmax函数 4.输出层 2.逻辑回归: ...
-
基于PyTorch实现MNIST手写字识别
本篇不涉及模型原理,只是分享下代码.想要了解模型原理的可以去看网上很多大牛的博客. 目前代码实现了CNN和LSTM两个网络,整个代码分为四部分: Config:项目中涉及的参数: CNN:卷积神经网络 ...
随机推荐
-
HTML流动布局各种宽度自适应
<!DOCTYPE html> <html lang="en"> <style> html,body{ padding: 0;margin: 0 ...
-
ruby -- 基础学习(九)filename去除扩展名
Rails -- filename去除扩展名 简单例子:params[:upload]['preview'].original_filename 的值为templateOne.html.er ...
-
第一节 SOA的基本概念和设计思想
WCF一直很火,一直也没有时间来静下心来学习新的技术.不知不觉已经做程序八年了,其中的时间基本都费了,刚入门时很火热,后来慢慢热情被琐事取代.现在开始学习JAVA和WCF,学JAVA的原因就是想做手机 ...
-
TCP的分层结构
TFTP(Trivial File Transfer Protocol,简单文件传输协议)是TCP/IP协议族中的一个用来在客户机与服务器之间进行简单文件传输的协议,提供不复杂.开销不大的文件传输服务 ...
-
Chapter12:动态内存
智能指针——shared_ptr 为了更容易地使用动态内存,新的标准提供了智能指针来管理动态对象.智能指针的行为类似常规指针,重要的区别是它负责自动释放指向的对象. 智能指针的使用方式与普通指针类似. ...
-
jQuery Mobile 是创建移动 web 应用程序的框架。
jQuery Mobile jQuery Mobile 是创建移动 web 应用程序的框架. jQuery Mobile 适用于所有流行的智能手机和平板电脑. jQuery Mobile 使用 HTM ...
-
GHSpro多数据库连接
GHSpro多数据库连接 文章 1 数据连接 XXX.Application.Web -> XmlConfig -> database.config <connectionStrin ...
-
认识LDAP协议
LDAP LDAP是Lightweight Directory Access Protocol的缩写,顾名思义,它是指轻量级目录访问协议(这个主要是相对另一目录访问协议X.500而言的:LDAP略去了 ...
-
mat函数
mat函数可以将目标数据的类型转换为矩阵(matrix) data=[[1,1,0,3,1],[1,0,1,4,3],[1,0,1,2,4],[0,1,1,1,2], [2,0,0,3,0],[1,0 ...
-
Learn the Basics - RN2
使用Image 1. 引用 import { Image } from 'react-native'; 2. 使用 format: <Image source={{}} style{{}} /& ...