梯度下降权值更新图解

时间:2021-06-01 14:50:42

最近要面试,博主一封面试通知没收到,才知道水深啊!!!

顺便复习了下神经网络的权重推导,主要过程就是找出那个递推公式。

资料来自中文*:反向传播算法。这里对其进行了图解。

发现还是维基比较好,原来一开始看英文版的反向传播算法,最后公式纠结了老半天,估计是错的吧,但是中文版的公式却很好理解,奇怪为啥会不一样。。。。。。

上图吧,有理解错误希望大家帮我指出

先看右上角绿色的框框!

然后可以直接看下面文字解释,图是辅助看的:

首先是梯度下降的理解,下图中的字太小,重新截出来:

图好小。。。。给个连接,有兴趣的可以去下载,评论后面贴链接

梯度下降权值更新图解

梯度下降权值更新图解