python构造神经网络（neurolab）

 

　　人类的大脑很擅长于鉴别和识别物体，我们希望机器也可以做同样的事情。一个神经网络就是一个模仿人类大脑激发学习过程的框架。神经网络被用于从数据中识别隐藏的模式。正如所有的学习算啊，神经网络处理的是数字。因此，如果想要实现处理现实世界中任何包含图像、文字、传感器等的任务，就必须将其转换成数值形式，然后将其输入到一个神经网络。我们可以用神经网络做分类，聚类，生成以及其他相关的任务。

　　神经网络由一层层神经元组成。这些神经元模拟人类大脑中的生物神经元。每一层都是一组独立的神经元，这些神经元与相邻层的神经元相连。输入层对应我们提供的输入数据，而输出层包括了我们期望的输出结果。输入层与输出层之间的层统称为隐藏层。如果设计的神经网络包括多个隐藏层，那么通过这些层的自我训练获得更大的精确度。

　　假如我们希望神经网络按照我们的要求来对数据进行分类。为了使神经网络完成相应的任务，需要提供带标签的训练数据。神经网络将通过优化成本函数来训练自己。我们不停的迭代，知道错误率下降到一个我们能够接受的阀值。那么深度神经网络是什么？深度神经网络是由多个隐藏层组成的神经网络。一般来书这就属于深度学习的范畴。深度学习用于研究这些神经网络，而这些神经网络由多个层次的多层结构组成。

　　python中提供了神经网络的第三发库NeuroLab库，你可以通过pip install NeuroLab安装适合你的python环境的版本，也可以去官网上去下载源码安装。接下来我们就通过NeuroLab实现一个深层神经网络：

import numpy as np
import neurolab as nl
import matplotlib.pyplot as plt

#生成训练数据
min_value=-12
max_value=12
num_datapoints=90

x=np.linspace(min_value,max_value,num_datapoints)

y=2*np.square(x)+7
y/=np.linalg.norm(y)

data = x.reshape(num_datapoints,1)
labels=y.reshape(num_datapoints,1)

#画出输入数据
plt.figure()
plt.scatter(data,labels)
plt.xlabel(\'X-axis\')
plt.ylabel(\'Y-axis\')
plt.title(\'Input data\')
plt.show()

#定义一个深度神经网络，带有两个隐藏层，每个隐藏层由10个神经元组成，输出层由一个神经元组成
multilayer_net = nl.net.newff([[min_value,max_value]],[10,10,10,10,1])

#设置训练算法为梯度下降法
multilayer_net.trainf = nl.train.train_gd

#训练网络
error = multilayer_net.train(data,labels,epochs=800,show=100,goal=0.01)

#用训练数据运行该网络，预测结果
predicted_output=multilayer_net.sim(data)

#画出训练误差结果
plt.figure()
plt.plot(error)
plt.xlabel(\'Number of epoches\')
plt.ylabel(\'Error\')
plt.title(\'Training error progress\')
plt.show()

#画出预测结果
x2=np.linspace(min_value,max_value,num_datapoints*2)
y2=multilayer_net.sim(x2.reshape(x2.size,1)).reshape(x2.size)
y3=predicted_output.reshape(num_datapoints)

plt.figure()
plt.plot(x2,y2,\'-\',x,y,\'.\',x,y3,\'p\')
plt.title(\'Ground truth va predicted output\')
plt.show()

运行代码可以看到我们实现了一个深度神经网络，该神经网络包含两个隐藏层，每个隐藏层包含10个神经元，并且使用梯度下降算法训练。可以看到3副图像：

第一幅图像显示输入数据图像：

第二幅图像显示训练误差进程：

第三幅图像显示神经网络的输出：