【文件属性】:
文件名称:contrastive-learning:对比学习方法
文件大小:27KB
文件格式:ZIP
更新时间:2021-03-10 03:28:15
pytorch nvidia-dali pytorch-lightning simclr contrastive-learning
对比学习方法
支持更多内容的对比学习方法的第三方pytorch实现(请参阅“可用内容”部分)。
有什么可用的?
使用SimCLR进行对比学习预训练
通过停止梯度进行在线线性评估
Pytorch闪电登录和默认收益(多GPU训练,混合精度等)
在GPU装置上收集负片以模拟更大的批次大小(尽管梯度不会在GPU上流动)
使用加快数据加载速度(以使用更多GPU内存为代价)
SimCLR多分辨率农作物
SimCLR +
预训练后线性评估(通常得出1-1.5%的准确度点)
工作于:
结果
模型
方法
数据集
时代
批
温度
多作
大理
监督下
在线线性评估
预训练后线性评估
Resnet18
SimCLR
Imagenet-100
100
256
0.2
70.74
71.02
Resnet18
SimCLR
Imagenet-100
100
256
0.2
:check_mark_button:
【文件预览】:
contrastive-learning-main
----utils()
--------barlow_twins_loss.py(421B)
--------classification_dataloader.py(5KB)
--------epoch_checkpointer.py(2KB)
--------__init__.py(0B)
--------metrics.py(816B)
--------contrastive_dataloader.py(11KB)
--------gather_layer.py(898B)
--------info_nce.py(2KB)
--------dali_dataloader.py(8KB)
----models()
--------simclr.py(5KB)
--------base.py(4KB)
--------__init__.py(0B)
--------linear.py(3KB)
--------barlow_twins.py(3KB)
--------resnet.py(9KB)
--------dali.py(6KB)
----requirements.txt(144B)
----main_contrastive.py(6KB)
----LICENSE(1KB)
----main_linear.py(5KB)
----README.md(3KB)
----bash_files()
--------run_linear.sh(511B)
--------run_contrastive.sh(2KB)
--------run_barlow.sh(473B)
----.gitignore(2KB)