Adline网络的LMS算法与梯度下降

时间:2024-12-18 16:05:02

LMS算法,即为最小均方差,求的是误差的平方和最小。

利用梯度下降,所谓的梯度下降,本质上就是利用导数的性质来求极值点的位置,导数在这个的附近,一边是大于零,一边又是小于零的,如此而已。。。

而这个里,导数的正负性,是依靠误差的正负来决定的,懒得多说,大致如图:

Adline网络的LMS算法与梯度下降