[DeeplearningAI笔记]神经网络与深度学习4.深度神经网络

觉得有用的话,欢迎一起讨论相互学习~Follow Me

4.2 深层神经网络中的前向传播

4.3 核对矩阵的维数

经验方法论

对于神经网络想增加得到没有bug的程序的概率的方法:需要仔细的思考矩阵的维数,Angrew自己在调试bug时自己会不断的看自己写的神经网络中矩阵的维度.

---

4.4 为什么使用深层表示

如果在建立一个人脸识别系统,那么你可以吧神经网络的第一层当成一个特征探测器或者边缘探测器,例如第一层神经元就会找特征图中相对应的边缘的方向,对于第二层隐藏层可以将被探测到的边缘组合成面部的不同部分,比如有可能有的神经元回去找眼睛的部分,有的去找鼻子的部分,然后把这些不同的边缘组合在一起就可以开始检测人脸的不同部分.最后再把人脸的不同部分例如鼻子眼睛等组合起来就可以识别或者探测不同的人脸了(例如第三层神经元所做的这样).所以你可以把神经网络的前几层当做是探测简单的函数,比如边缘之后再把他们和后几层结合在一起,那么总体上就可以学习更多复杂的函数.

深层神经网络也可用在其他的地方,比如你想要搭建一个语音识别系统的时候,需要解决的就是如何可视化语音,比如输入一个音频片段,那么神经网络的第一层就会开始试着去探测比较低层次的音频波形的一些特征,比如音调是变高了还是变低了,还有分辨白噪声等等.然后把这些特征组合在一起就能去探测声音的基本单元.在语言学中有个概念叫做音位,有这些声音的基本单元后就能识别音频中的单词,单词组合起来就能识别词组,再到完整的词组.