bn 在推理前进行线性处理,从而推理时舍弃bn层 手稿.pdf

时间:2023-07-10 05:42:38
【文件属性】:

文件名称:bn 在推理前进行线性处理,从而推理时舍弃bn层 手稿.pdf

文件大小:2.83MB

文件格式:PDF

更新时间:2023-07-10 05:42:38

bn 手稿

Batch Normalization是谷歌研究员于2015年提出的一种归一化方法,其思想非常简单,一句话概括就是,对一个神经元(或者一个卷积核)的输出减去统计得到的均值,除以标准差,然后乘以一个可学习的系数,再加上一个偏置,这个过程就完成了。 在推理时可以将其折叠


网友评论