文件名称：损失面单纯形
文件大小：766KB
文件格式：ZIP
更新时间：2024-03-23 20:48:35
JupyterNotebook
损失表面单纯形 该存储库包含Greg Benton，Wesley Maddox，Sanae Lotfi和Andrew Gordon Wilson撰写的论文《模式连接体积和快速组装的损耗表面单纯形》随附的代码。 介绍 该存储库保留了Simplicial点向随机优化（SPRO）的实现，作为在神经网络的参数空间中查找低损耗的Simplilic复杂体的一种方法。 这项工作扩展了Garipov等人的“。 使我们不仅能够找到模式连接路径，而且还能找到大量复杂且低损耗的连接参数空间中经过独立训练的模型。 上方左侧的图显示了沿着低损耗的简单复合体的边缘和面的损耗表面投影，其中 和 是在CIFAR-10上经过独立训练的VGG16模型，并且 和 是经过SPRO培训的连接点。 右图显示了在CIFAR-上训练的VGG16网络的参数空间中，包含7个独立训练的模式（橙色）和9个连接点（蓝色）的简单复合体的三维投影，
【文件预览】：
loss-surface-simplexes-main
----experiments()
--------vgg-cifar100()
--------vgg-cifar10()
----notebooks()
--------two-spirals.ipynb(471KB)
--------sample_bias_plotter.ipynb(147KB)
----README.md(5KB)
----simplex()
--------surfaces.py(4KB)
--------simplex_helpers.py(2KB)
--------models()
--------utils.py(6KB)
----plots()
--------vggc10_mode_conn.jpg(96KB)
--------extended_c10.jpg(51KB)
--------cifar-simplex-acc.jpg(156KB)