#浅析# 深度学习如何避免陷入局部最优

时间:2025-03-31 07:55:01
  • 当神经网络使用梯度下降算法寻优时,陷入局部最优的条件是所有偏导数在这一点全部为0,
  • 在二维或三维空间似乎这种点很容易遇到,但在极高维的空间中这样的点很难遇到,在高维空间大部分是鞍点;
  • 由于深度神经网络多数情况下在高维进行寻优,因此根据上边的解释很难陷入局部最优