文件名称：compressors:带有蒸馏，量化和修剪管道的小型图书馆
文件大小：529KB
文件格式：ZIP
更新时间：2024-04-26 19:03:43
transformers resnet pruning quantization knowledge-distillation
压气机 警告！ 阿尔法版！ 到目前为止，这不是产品就绪的解决方案。 Compressors是一个包含大量与模型压缩相关联的管道的库，而不会显着降低性能。 为什么要使用压缩机？ 压缩器提供了多种压缩模型的方法。 您可以将其用于CV和NLP任务。 库分为三个部分： 蒸馏法 修剪 量化 有两种使用Compressor的方式：通过Catalyst或仅使用功能性API。 安装 pip install git+https://github.com/elephantmipt/compressors.git 特征 蒸馏法 姓名 参考 地位 KL散度 Hinton等。 实施的 微软 Hinton等。 实施的 概率KT Passalis等。 实施的 余弦 ??? 实施的 注意转移 Zagoruyko等。 实施的 建设性表达提炼 田等。 已实施（无数据集） 概率转移 Wen等。 实