TensorFlow—softmax_cross_entropy_with_logits函数详解

时间:2023-03-09 08:00:49
TensorFlow—softmax_cross_entropy_with_logits函数详解

softmax_cross_entropy_with_logits函数原型:

tf.nn.softmax_cross_entropy_with_logits(labels=y, logits=pred, name=None)
函数功能:计算最后一层是softmax层的cross entropy,把softmax计算与cross entropy计算放到一起了,用一个函数来实现,用来提高程序的运行速度。

参数name:该操作的name

参数labels:shape是[batch_size, num_classes],神经网络期望输出。

参数logits:shape是[batch_size, num_classes] ,神经网络最后一层的输入。

具体的执行流程大概分为两步:

第一步是对网络最后一层的输出做一个softmax,这一步通常是求取输出属于某一类的概率,对于单样本而言,输出就是一个 num_classes 大小的向量([Y1,Y2,Y3,...]其中Y1,Y2,Y3,...分别代表了是属于该类的概率)

TensorFlow—softmax_cross_entropy_with_logits函数详解

第二步是softmax的输出向量[Y1,Y2,Y3,...]和样本的实际标签做一个交叉熵,

TensorFlow—softmax_cross_entropy_with_logits函数详解

TensorFlow—softmax_cross_entropy_with_logits函数详解指实际标签中第i个的值;

TensorFlow—softmax_cross_entropy_with_logits函数详解softmax的输出向量[Y1,Y2,Y3...]中,第i个元素的值。

 

总之,tensorflow之所以把softmax和cross entropy放到一个函数里计算,就是为了提高运算速度。

转载:https://blog.****.net/qiqiaiairen/article/details/53169002