本文均为总结其他人的博客对遇见的一些问题的解决,如有侵权,请联系删帖
1、卷积神经网络的两大特点:参数共享,局部连接
局部连接:卷积层节点仅与上一层的部分节点相连,只用来学习部分特征,通过卷积核来实现 ,同一特征采用同一卷积核进行处理,每次卷积核卷积生成的是下一层的一个神经元(下一层神经元的个数,也就是卷积操作生成值的个数),同一卷积核遍历一遍上一层的数据,生成的当前一个通道,训练用到的参数是下一层神经元的数量乘以卷积核的参数(3*3的卷积核参数为9),相比于全连接学习的参数大大减少。
参数共享:学习同一特征共同使用同一卷积核,上面需训练的参数数量,缩小为卷积核参数的数量乘以一。
提取多个特征时,用到多个卷积核,训练的参数为卷积核的参数乘以卷积核的数量。
此图盗用dulingwen 博主的一张图,侵删。
因为局部连接和参数共享,卷积神经网络需要训练的参数大大减少。
2、训练过程中卷积核的参数改变。
卷积核的参数是使用截断正态分布进行初始化,神经网络训练过程中通过梯度反向传播不断修改,最后得到解决问题的卷积核,相对于全连接训练的参数,因此也看到了卷积神经网络的的参数大大减少
3、卷积层和全连接层后面都接着**层。
神经网络相对于感知器的优势,是增加了非线性,非线性是通过**层实现的,卷积层和全连接层后都进行**来增加网络的非线性能力。
4、卷积核
有经过过训练得到的卷积核,也有一些是常用于进行边缘检测的卷积核。包括垂直和水平边缘检测卷积核。
边缘检测是通过一个特定构造的卷积核对原始图片进行卷积操作的得到的一个特征图,这个特征图能显示图像的边缘。
下图是将一个6*6的图片通过3*3垂直边缘检测的卷积核生成特征图,原始图片由亮到暗(假设高像素值对应的浅颜色,小像素值对应的深颜色),生的特征图能很好表示原始图片由亮到暗的边缘。
以上如果有哪里表述不清楚的,欢迎大家留言指正