【文件属性】:
文件名称:matlab精度检验代码-distillation:在EMNIST数据集上进行知识蒸馏的Keras+张量流实验
文件大小:132.4MB
文件格式:ZIP
更新时间:2021-05-21 21:51:30
系统开源
matlab精度检验代码知识蒸馏实验
如何运行代码
依赖项:Keras,Tensorflow,Numpy
培训老师模型:
python
train.py
--file
data/matlab/emnist-letters.mat
--model
cnn
正常训练感知器
python
train.py
--file
data/matlab/emnist-letters.mat
--model
mlp
用知识升华训练学生网络:
python
train.py
--file
data/matlab/emnist-letters.mat
--model
student
--teacher
bin/cnn_64_128_1024_30model.h5
结果
数据集用于实验(26类手写英文字母)
作为教师网络,一个简单的cnn具有3378970参数(2个conv层,分别具有64和128个过滤器,在完全连接的层上具有1024个神经元)经过了26个时期的训练,并在高原早期停止。
验证准确性为94.4%
作为学生网络,使用了具有512个隐藏单元和415258总参数的1层感知器(比教师网络小8倍)。
首先
【文件预览】:
distillation-master
----data()
--------matlab()
----bin()
--------.gitignore(4B)
----models.py(3KB)
----checkpoints()
--------.gitignore(4B)
----README.md(2KB)
----helpers.py(5KB)
----logs()
--------.gitignore(4B)
----train.py(9KB)