【跟马少平老师学AI】-【神经网络是怎么实现的】(六)过拟合问题

时间:2024-05-07 09:06:40

一句话归纳:

1)过拟合问题:

  • 图中的点为样本
  • 直线欠拟合
  • 曲线2过拟合

2)迭代次数与拟合情况:

  • 训练次数过多可能导致过拟合。

3)正则化项法弱化过拟后问题:

  • 加正则项,在最小化损失函数时抑制了个别参数影响过大导致的过拟合。

4)舍弃法弱化过拟合:

  • 通过训练多个简化的神经网络(丢弃部分参数)弱化过拟合。
  • 又保持使用过所有神经元。

5)数据增强法:

  • 训练数据足够多(样本多样性)。
  • 通过旋转、截取、缩放等方法获取数据。