刚接触深度学习时,我们经常会看到神经网络、深度神经网络、卷积神经网络这些词。初看可能一头雾水,没关系,下面我们就来了解一下这些词背后的意义吧。
图1 神经元的结构 |
---|
神经元(Neuron):
从生物上来说,无论是人还是其他动物都有数以亿计的神经元。神经元是神经系统最基本的结构和单位,通俗来说就是我们进行认知活动的基本单位。利用神经元,我们可以学习到各类知识,例如我们在生活中看到了一些小猫和小狗,神经元会学习并反馈给我们(一般)耳朵尖尖、身材小巧、对你爱答不理的是猫(突然卑微),体型较大、活泼好动、会向人摇尾巴求抚摸的是狗。
图2 猫与狗的区别 |
---|
神经网络(Neural Network,NN):
神经网络即人工神经网络,由具有权重和偏置的神经元组成,简单来说就是模拟生物神经元进行信息处理的模型。在训练过程中,神经网络通过调整神经元的权重和偏置,最终得到一个能将输入信息处理成为接近或符合我们预期输出的模型。
深度神经网络(Deep Neural Network,DNN):
具有多层的神经网络我们一般就可以认为是深度神经网络。
普通神经网络:
普通神经网络不会考虑输入数据的结构,输入数据在送入神经网络之前会被处理成一维数组。不同于普通数据,图像的维度较高且像素在空间排列上存在一些隐藏的信息。因此,当输入数据是图像时,普通神经网络就难以招架了。
卷积神经网络(Convolutional Neural Networks,CNN):
针对普通神经网络无法处理图像的问题,后来引入了卷积神经网络。CNN在处理数据时充分考虑图像的结构,其中的神经元按三维排列——宽度(W)、高度(H)和深度(D)。当前层中的每个神经元都连接到前一层输出的小块,全连接层的每个神经元均与前一层的所有神经元相连,因而能够有效提取图像的特征。CNN通常使用以下类型的层:输入层、卷积层、激励层、池化层、全连接层。关于各层的用途在我后面的文章中会详细介绍。
图3 典型的CNN结构 |
---|
图片来源: