文件名称:ANML:神经调节元学习算法
文件大小:26KB
文件格式:ZIP
更新时间:2024-05-05 03:50:01
Python
ANML:学会不断学习(ECAI 2020) 持续的终身学习需要代理或模型在先前知识的基础上学习许多顺序执行的任务,而不会灾难性地忘记它。 为了防止机器学习模型的默认趋势灾难性地遗忘,已经进行了许多工作,但是实际上所有这些工作都涉及针对该问题的手动设计的解决方案。 相反,我们提倡元学习来解决灾难性遗忘的解决方案,从而使AI能够学习不断学习的知识。 受大脑中神经调节过程的启发,我们提出了一种神经调节元学习算法(ANML)。 它通过顺序学习过程与众不同,以元学习激活门控功能,该功能可在深度神经网络内实现上下文相关的选择性激活。 具体来说,神经调节(NM)神经网络控制着另一个称为预测学习网络(PLN)的神经网络的前向通行。 因此,NM网络还间接控制PLN的选择性可塑性(即,向后传递)。 ANML实现了持续学习,而没有大规模的灾难性遗忘:它产生了最先进的持续学习性能,可以连续学习多达600个课程(
【文件预览】:
ANML-master
----evaluate_classification.py(16KB)
----experiment()
--------experiment.py(4KB)
--------__init__.py(36B)
----utils()
--------utils.py(9KB)
--------__init__.py(54B)
--------colorer.py(4KB)
----mrcl_classification.py(5KB)
----model()
--------__init__.py(33B)
--------learner.py(13KB)
--------modelfactory.py(5KB)
--------meta_learner.py(12KB)
----datasets()
--------datasetfactory.py(805B)
--------omniglot.py(6KB)
--------utils.py(6KB)
--------__init__.py(30B)
--------task_sampler.py(10KB)
----README.md(2KB)