用tensorflow实现卷积神经网络CNN

首先是记录一些重要的知识点

1. 神经网络参数增多带来两个问题：训练变慢与过拟合
2. 卷积过程：三维w和三维数据做卷积，然后加上bias（一层feature map共享一个bias）,然后做非线性激活得到最终结果
3. 只有全连接层权重需要加入正则化（因为weights数量太多）
4. 只有全连接层需要用dropout,relu之后的结果加入dropout,丢弃某些节点的输出（即输出变为0）
5. 最后一层，matmul之后接激活函数softmax,得到分类概率
6. 
   

最后用tensorflow实现lenet-5 (有问题的欢迎交流)