DFQ:通过权重均衡和偏差校正实现数据*量化的PyTorch实施

时间:2024-05-23 19:49:16
【文件属性】:

文件名称:DFQ:通过权重均衡和偏差校正实现数据*量化的PyTorch实施

文件大小:70.79MB

文件格式:ZIP

更新时间:2024-05-23 19:49:16

deep-learning quantization dfq Python

DFQ PyTorch实现提供提出的一些想法。 结果 Int8 **:伪量化; 8位权重,8位激活,16位偏置Int8 *:伪量化; 8位权重,8位激活,8位偏置Int8':伪量化; 8位权重(对称),8位激活(对称),32位偏置Int8:使用Int8推断; 8位权重(对称),8位激活(对称),32位偏置 关于分类任务 经过和测试 ImageNet验证集(Acc。) MobileNetV2 ResNet-18 型号/精度 FP32 Int8 ** 整数8 * Int8' 诠释8 (FP32-69.19) 原来的 71.81 0.102 0.1 0.062 0.082 + ReLU 71.78 0.102 0.096 0.094 0.082 + ReLU + LE 71.78 70.32 68.78 67.5 65.21 + ReLU +


【文件预览】:
DFQ-master
----convert_ncnn.py(10KB)
----images()
--------graph_cls.png(268KB)
--------LE_distill.png(35KB)
--------graph_ssd.png(784KB)
--------graph_deeplab.png(856KB)
----requirements.txt(141B)
----dataset()
--------__init__.py(0B)
--------segmentation()
--------detection()
----LICENSE.md(1KB)
----main_ssd.py(16KB)
----modeling()
--------__init__.py(0B)
--------segmentation()
--------classification()
--------ncnn()
--------detection()
----PyTransformer()
----.gitmodules(101B)
----utils()
--------relation.py(3KB)
--------__init__.py(424B)
--------segmentation()
--------layer_transform.py(28KB)
--------metrics.py(2KB)
--------quantize.py(14KB)
--------detection()
----dfq.py(13KB)
----inference_cls.cpp(6KB)
----main_cls.py(9KB)
----README.md(8KB)
----main_seg.py(7KB)
----improve_dfq.py(15KB)
----_512_train.txt(53KB)
----ZeroQ()
--------requirements.txt(35B)
--------distill_data.py(9KB)
--------uniform_test.py(3KB)
--------LICENSE(34KB)
--------utils()
--------README.md(2KB)
--------run.sh(240B)
--------reconstruct_data.py(6KB)
----CMakeLists.txt(910B)

网友评论