文件名称：matlab分时代码-hogwildpp:HogWild++：分散式异步随机梯度下降的新机制
文件大小：130KB
文件格式：ZIP
更新时间：2024-06-10 13:42:17
系统开源
matlab分时代码HogWild ++实验代码 HogWild ++旨在提高HogWild的可伸缩性！ 多套接字（NUMA）机器上的随机梯度下降算法。 在HogWild ++中，为了减少套接字之间的通信和一致性丢失，工作线程被分为具有可配置大小的多个“集群”，并且在每个集群中线程共享相同的模型向量。 每个群集仅与其邻居交换模型信息以减少通信开销，并且不维护集中式模型矢量。 有关此算法的更多详细信息，请参阅以下论文： HogWild++: A New Mechanism for Decentralized Asynchronous Stochastic Gradient Descent Huan Zhang, Cho-Jui Hsieh and Venkatesh Akella, 2016. 在我们的实现中，集群以逻辑定向环的形式组织，并且沿该环传递单个令牌。 持有令牌的群集能够与环上的下一个群集进行通信并交换模型信息，而其他群集则继续更新自己的模型。 如果您对实现其他（可能更有效的）拓扑感兴趣，请阅读下面的“ How to modify部分。 HogWild ++基于HogWild！
【文件预览】：
hogwildpp-master
----bin()
--------.gitignore(72B)
----README.hogwild(4KB)
----hogwildtl()
--------include()
--------src()
--------README(834B)
--------test_data()
--------Makefile(1KB)
----convert2hogwild.py(675B)
----obj()
--------.gitignore(72B)
----output()
--------bbmulticut_example.txt(1KB)
--------svm_example2.txt(3KB)
--------multicut_example.txt(650B)
--------tracenorm_example.txt(1KB)
--------bbtracenorm_example.txt(5KB)
--------svm_example.txt(3KB)
--------bbsvm_example.txt(5KB)
----LICENSE(9KB)
----params()
--------mus.lst(15B)
--------steps.lst(15B)
----src()
--------frontend_util.cc(2KB)
--------numasvm_main.cc(13KB)
--------frontend_util.h(1KB)
--------tools()
--------cuts()
--------multicut.cc(4KB)
--------svm_main.cc(5KB)
--------bbsvm_main.cc(5KB)
--------tracenorm.cc(6KB)
--------bbmulticut.cc(5KB)
--------loader-inl.h(1017B)
--------svm()
--------bbtracenorm.cc(7KB)
--------numasvm()
--------tracenorm()
----collect_numasvm.py(4KB)
----collect_svm.py(3KB)
----RELEASE_INFO(46B)
----.gitignore(148B)
----hazytl()
--------include()
--------TODO(127B)
--------LICENSE(9KB)
--------README(331B)
----Makefile(2KB)
----README.md(7KB)
----EXAMPLES(928B)