1、研究人工神经网络的权值分布有什么意义
神经网络一般都是非常庞大的,每个边对应一个权值,如果权值不共享的话,数据量就更大了,但是为了提高效率,引入了权值共享,但是还不够,想再次提高效率和精确度,进行主成分分析,把一些重要的权重保留,不重要的舍弃,你这个权值分布就很有意义了,比如权重是5的权值在概率上占到了百分之95,或者说主成分分析的结果前2类权重就占据了百分之80,那么剩下的权值就可以省略,当然这都是理论上的
2、神经网络为什么深度越深,准确率越高
因为深度神经网络的参数特别多(可以达到上亿,目前已经可以支持到万亿参数)神经网络精确度意义。
参数多,表示模型的搜索空间就越大,必须有足够的数据才能更好地刻画出模型在空间上的分布
3、神经网络怎么定义预测的精度?
回归问题一般均方误差损失函数得到的函数值即为精度
分类问题的话一种可以用交叉熵损失函数的函数值作为精度,另外也可以用分类的准确性作为精度值
4、神经网络的每一层网络有什么实际的意义吗
一般地,C层为特征提取层,每个神经元的输入与前一层的局部感受野相连,并提取该局部的特征,一旦该局部特征被提取后,它与其他特征间的位置关系也随之确定下来;S层是特征映射层,网络的每个计算层由多个特征映射组成,每个特征映射为一个平面,平面上所有神经元的权值相等.特征映射结构采用影响函数核小的sigmoid函数作为卷积网络的激活函数,使得特征映射具有位移不变性.
此外,由于一个映射面上的神经元共享权值,因而减少了网络*参数的个数,降低了网络参数选择的复杂度.卷积神经网络中的每一个特征提取层(C-层)都紧跟着一个用来求局部平均与二次提取的计算层(S-层),这种特有的两次特征提取结构使网络在识别时对输入样本有较高的畸变容忍能力.
5、神经网络的准确率是怎么计算的?
其实神经网络的准确率的标准是自己定义的。
我把你的例子赋予某种意义讲解:
1,期望输出[1 0 0 1],每个元素代表一个属性是否存在。像着4个元素分别表示:是否肺炎,是否肝炎,是否肾炎,是否胆炎,1表示是,0表示不是。
2,你的神经网络输出必定不可能全部都是输出只有0,1的输出。绝大部分是像[ 0.9968 0.0000 0.0001 0.9970]这样的输出,所以只要输出中的某个元素大于一定的值,例如0.7,我们就认为这个元素是1,即是有某种炎。否则为0,所以你的[ 0.9968 0.0000 0.0001 0.9970]可以看成是[1,0,0,1],。
3,所以一般神经网络的输出要按一定的标准定义成另一种输出(像上面说的),看调整后的输出和期望输出是否一致,一致的话算正确,不一致算错误。
4,用总量为n的检验样本对网络进行评价,输出调整后的输出,统计错误的个数,记为m。
所以检验正确率可以定义为n/m。
6、卷积神经网络卷积核大小对准确率的影响
卷积神经网络卷积核大小对准确率的影响
一般来说,卷积核越大,对于图像特征值获取的效果越好,但是对应地,需要训练的参数就越多,因此会应当到运算能力,进一步影响到图像识别的整体效率。与之对应,卷积核越小,图像识别过程中的精细程度就会有所提升,但是想要获取到同样水平的图像特征,只能依赖更多的计算层数。并且较小的卷积核意味着在计算中会存在更多的Rectified Linear Units层,在识别能力上也会因此更强。因此在当前用于图像识别环境中的卷积神经网络算法,多采用3×3或者5×5尺寸的卷积核展开工作。而Rectified Linear Units层则负责实现神经网络的激活函数控制,多为Rectified函数。Rectified Linear Units层的引入,能够有效减少训练时间,提升整体算法性能。在输入图像经过了这样两个层级的处理之后,其中的没一个像素点都包括了周围区域的相关信息,这带来了较多的信息冗余,而为了提升算法的性能和鲁棒性,就需要对图像展开二次采样,并且形成新的图像。在二次采样的过程中,需要对区域进行重新划分,如果划分区域彼此之间存在重叠,则成为Overlapping Pooling,否则被称作为Non-overlapping Pooling,Pooling层的称谓因此而来。这一层不需要训练,并且比较常见的做法是采用可以重叠的,取最大值的Pooling算法,用以对过度拟合展开适当控制。最后,规范化层,即规范化神经层(Normalization Layer),其价值在于提升图像的对比性,通常通过计算图像的对比“平均值”,来对图像的每个像素展开调整,使得图像的主体部分能够和背景更加具有区分度。这一个层面在图像识别中并非必不可少,因此只有当卷积核较大的时候,才会引入这一层级展开加工。