文件名称:Structured-Bayesian-Pruning-pytorch:pytorch实现结构化贝叶斯修剪
文件大小:21KB
文件格式:ZIP
更新时间:2024-05-21 13:40:05
model-compression bayesian-deep-learning Python
结构化贝叶斯修剪火炬 pytorch实现的 。 本文的作者提供了。 该实现基于pytorch 0.4。 关于MNIST的一些初步结果: 网络 方法 错误 每层神经元 LeNet-5 原始的 0.68 20-50-800-500 收缩压 0.86 3-18-284-283 收缩压* 1.17 8-15-163-81 SBP *表示我实现的结果,我相信可以通过超参数调整来改善结果。 作为实现的副产品,我在MNIST中大致绘制了平均分层稀疏度与模型性能的关系图。 平均分层稀疏度不是压缩率的准确近似值,但是您可以了解它们在结构贝叶斯修剪中的相关性。 该代码仅包含用于重现MNIST实验的实验,文件为LeNet_MNIST.py,但是,可以轻松地将其扩展为任何其他模型或数据集。 在这里,我给出一个简单的示例,说明如何使用结构化贝叶斯修剪自定义模型。 from SBP_util
【文件预览】:
Structured-Bayesian-Pruning-pytorch-master
----images()
--------Layerwise-Sparsity.png(17KB)
----LeNet.py(4KB)
----README.md(2KB)
----LeNet_MNIST.py(5KB)
----SBP_utils.py(15KB)
----SBP_model()
--------readme(37B)