每天五分钟深度学习:神经网络的前向传播的计算过程(单样本)

时间:2024-11-28 07:27:54

本文重点

本节课程我们学习神经网络的输出是如何计算的,这个过程叫做神经网络的前向传播。

神经网络的结构

如上所示是一个具有单隐藏层的神经网络,其中输入层不算神经网络的层数。

在这个神经网络中,x表示输入特征,a表示每个神经元的输出,W表示权重参数。

神经网络的隐藏层的计算

我们可以认为神经网络中的某一个神经元就是执行一个逻辑回归,神经网络我们可以简单的看成是由许多逻辑回归一层一层的嵌套组成的。那么我们先来学习一下逻辑回归算法是如何计算的:

逻辑回归就是两个步骤,首先按步骤计算z,然后计算出a,也就是说一个神经网络做了好多次重复的逻辑回归计算。

现在我们回到神经网络中,我们从隐藏层中的第一个神经元开始计算。