梯度下降算法

【持续更新】
【个人理解，可能有错】

标准梯度下降算法

每次输入一个batch的数据，每个数据对参数进行偏微分，得到的结果在batch中平均，用于更新参数；

随机梯度下降算法

每次只输入一个数据，数据对参数进行偏微分，得到的结果用于更新参数，好像可以理解为batch为1的标准梯度下降算法；