基于分布式内存计算的深度学习方法 (2015年)

【文件属性】：
文件名称：基于分布式内存计算的深度学习方法 (2015年)
文件大小：304KB
文件格式：PDF
更新时间：2021-05-09 08:54:03
工程技术 论文 为了提升深度学习技术并行化学习效率，设计了一种面向计算机集群的分布式内存计算方法。构建分布式内存环境，建立数据分片处理和多任务调度机制，使模型参数和神经元节点的计算和存储并行运行于该环境中，避免了磁盘I/O对训练速率的影响；采用深度信念网络模型，以多个副本异步并行计算的方式进行模型训练，并使用dropout方法防止模型训练过拟合。对CIFAR-10图像数据集进行分类训练，试验结果表明，该方法可以明显提高深度神经网络的训练效率，并具备良好的可扩展性。