文件名称：batch_norm_tests:涉及批量归一化的实验
文件大小：3.75MB
文件格式：ZIP
更新时间：2024-05-20 15:10:27
Ruby
概述 该存储库的目标是通过对SVHN进行评估来回答以下问题： 关于性能优化： 快速形成迷你批次的惩罚是什么？ 如果有明显的惩罚，我们应该重新安排训练实例的时间。 答：在使用JoinTable和直接从原始数组传输图像之间，我找不到任何可测量的区别。 YUV vs LAB：有明显的区别吗？ 如果是这样，哪个更好？ 使用GCN / LCN有什么好处： 独立地？ 一起？ 避免在亮度通道上使用LCN有帮助吗？ 有/没有美白效果如何（先找到最佳的PP方案而不先美白）？ 我认为在美白之前使用GCN / LCN更有意义。 这也意味着我们必须重新生成关于葡萄树的数据。 批量归一化使用哪个epsilon值？ 性能对选择的epsilon值敏感吗？ 如果单独使用美白有帮助，那么如果使用批量归一化还可以帮助吗？ 批量标准化是否会伤害或帮助辍学？ 卷积层的小概率丢失（如Sergey一样）有
【文件预览】：
batch_norm_tests-master
----source()
--------models()
--------drivers()
--------utility()
----notebooks()
--------.ipynb_checkpoints()
--------whitening.ipynb(1.2MB)
--------image_eigenvalues.ipynb(3.41MB)
----.gitmodules(194B)
----Rakefile(13KB)
----README.md(4KB)
----torch_utils()
----.gitignore(231B)
----image_utils()