文件名称:EBP_Matlab_Code
文件大小:15.84MB
文件格式:ZIP
更新时间:2024-05-29 05:51:32
MATLAB
EBP_Matlab_Code 这是基于即将发布的NIPS论文的期望反向传播算法的第一版:“期望反向传播:具有连续或离散权重的多层神经网络的无参数训练”,作者:D.Soudry,I.Hubara和R.Meir 论文摘要:多层神经网络(MNN)通常使用基于梯度下降的方法(例如,反向传播(BP))进行训练。 概率图形模型中的推论通常使用变型贝叶斯方法(例如,期望传播(EP))进行。 我们展示了基于EP的方法如何也可以用于训练确定性MNN。 具体来说,我们在在线设置中使用“平均场”因式分解的分布来给定权重的后验值。 使用在线EP和中心极限定理,我们找到该后验的Bayes更新的解析近似,以及由此产生的权重和输出的Bayes估计。 尽管起源不同,但最终的算法Expectation BackPropagation(EBP)在形式和效率上与BP非常相似。 但是,它还有其他一些优点:(1)在给定初始条
【文件预览】:
EBP_Matlab_Code-master
----Learning_Algorithms()
--------Real_EBP_minibatch.m(5KB)
--------Binary_EBP_minibatch.m(5KB)
----Datasets()
--------Classification()
----.gitignore(606B)
----README.md(3KB)
----util()
--------Find_dataset_path.m(680B)
--------Generate_dataset.m(2KB)
--------Plot_task.m(4KB)
--------Get_errors_max.m(597B)
--------Get_dataset_properties.m(265B)
--------Filtered_downample.m(473B)
----RunMe.m(12KB)
----.gitattributes(483B)