文件名称:pruned-models:包含修剪的模型和相关信息的存储库
文件大小:21KB
文件格式:ZIP
更新时间:2024-06-07 17:31:35
JupyterNotebook
修剪神经网络 介绍 修剪权重是减少参数数量和计算神经网络中的运算的技术之一。 已经研究了多种修剪方法,从细粒度元素修剪到粗粒度方法(其中整个过滤器都修剪)。 请参阅的库的,以获取有关各种修剪技术的很好的介绍和概述。 最近,修剪API已添加到。 请参阅。 尽管当前的收益主要来自模型压缩,但延迟改进已被视为。 在DeGirum,我们正在研究利用神经网络稀疏性来显着改善延迟的硬件解决方案。 我们将在不久的将来提供指向计算收益的链接。 当前状态 迄今为止,修剪已被视为减少参数数量,从而减小模型大小的方法。 这对于资源受限的边缘应用很有吸引力。 已经进行了一些努力来利用修剪来改善延迟,特别是在FPGA平台上。 专门处理稀疏性的库也显示出一些进步。 请参阅百度针对不同案例的。 值得注意的是,主要针对完全连接的层以及90%或更高的稀疏性报告了收益。 修剪完全连接的层会显着减少参数的数量,但不会导致计
【文件预览】:
pruned-models-master
----LICENSE(11KB)
----EvalPrunedModelsStateDict.ipynb(6KB)
----readme.md(12KB)
----EvalPrunedModelsCkpt.ipynb(7KB)
----pruning_schedulers()
--------resnet50_pruned_85_schedule.yaml(16KB)
--------resnet50_pruned_83_schedule.yaml(17KB)
--------resnet50_pruned_70_schedule.yaml(16KB)