TensorFlow学习笔记 速记1——tf.nn.dropout

时间:2021-12-19 13:47:46
tf.nn.dropout(x, keep_prob, noise_shape=None, seed=None,name=None) 

上面方法中常用的是前两个参数:

第一个参数 x:指输入;

第二个参数 keep_prob: 设置神经元被选中的概率,在初始化时,keep_prob是一个占位符,keep_prob = tf.placeholder(tf.float32)。tensorflow在run时设置keep_prob具体的值,例如keep_prob: 0.5;

第五个参数 name:指定该操作的名字。

 

注:tf.nn.dropout是TensorFlow里面为了防止或减轻过拟合而使用的函数,它一般用在全连接层

Dropout就是在不同的训练过程中随机扔掉一部分神经元。也就是让某个神经元的激活值以一定的概率p,让其停止工作,这次训练过程中不更新权值,也不参加神经网络的计算。但是它的权重得保留下来(只是暂时不更新而已),因为下次样本输入时它可能又得工作了。示意图如下:

TensorFlow学习笔记 速记1——tf.nn.dropout