文件名称:MLL-SGD:多级本地SGD模拟代码
文件大小:38.91MB
文件格式:ZIP
更新时间:2024-04-01 22:28:40
Python
多级本地SGD模拟代码 对应的文章:T. Castiglia,A。Das和S. Patterson,“多层次本地SGD:异构系统的分布式SGD”,ICLR,2021年 该代码用于模拟具有异构工作程序的多级网络,并运行MLL-SGD以在一组数据上训练模型。 该代码不是出于部署目的,并且还有很大的优化空间。 可以使用Anaconda安装我们的环境:conda create env -f flearn.yml 纸张中显示的图形结果位于“图像”文件夹下。 原始数据结果可在“结果”文件夹下找到。 要重新运行实验,请运行:./run_exps.sh bash脚本当前按顺序运行所有实验。 它们可以并行运行,具体取决于计算机的可用内存。 绘制结果:python plot_exps.py 您也可以使用自己的参数运行MLL-SGD。 mll_sgd.py帮助输出带有额外的注释: 用法:mll_sg