反向传播算法
反向传播算法,把纠错的运算量下降到只和神经元数目本身成正比。
反向传播算法,通过在神经网络里增加一个所谓隐层 (hidden layer),同时也解决了感知器无法解决异或门 (XOR gate) 的难题。
使用了反向传播算法的神经网络,在做诸如形状识别之类的简单工作时,效率比感知器大大提高。
参考资料:神经网络浅讲:从神经元到深度学习http://www.cnblogs.com/subconscious/p/5058741.html
关于梯度下降算法的的一些总结http://www.cnblogs.com/gongxijun/p/5890548.html
机器学习入门:线性回归及梯度下降http://blog.csdn.net/xiazdong/article/details/7950084
方向导数与梯度http://netedu.xauat.edu.cn/jpkc/netedu/jpkc/gdsx/homepage/5jxsd/51/513/5308/530807.htm
知乎 导数 偏导数 方向导数 梯度https://www.zhihu.com/question/36301367