文件名称：Deep-Learning-Tricks:遇到的深度学习技巧
文件大小：1.79MB
文件格式：ZIP
更新时间：2024-04-14 09:38:18
模型 （1）模型自身结构 -> 模型的表达能力 （2）超参数选择 （3）数据模型不匹配 （4）数据集构造：没有足够数据、分类不均衡、有噪声的标签、训练集和测试集分布不均衡 欠拟合 （1）让模型更大：给模型加入更多的层 eg.ResNet-50 -> resNet-101，每层中更多的单元； （2）减少正则化 （3）错误分析：（训练集和测试集的分布偏差）测试时候出现问题进行分析，训练集缺少哪些情况导致错误，后续将在训练集中加入此类数据纠正偏差； （4）改进模型架构 （5）调节超参数：手动优化、网格搜索、随机搜索、由粗到细、贝叶斯优化； （6）加入更多特征 过拟合 增加训练集样本 正则化 Early Stopping Weight Decay Dropout 调整网络结构 调参 DenseNet训练样本比较少的情况下收敛的比ResNet更好 -> Dense Connections 3x3 c
【文件预览】：
Deep-Learning-Tricks-main
----.gitattributes(66B)
----LICENSE(1KB)
----README.md(34KB)
----Network Architectures.md(8KB)
----Back Propagation.pdf(1.78MB)