文件名称：论文笔记—Gradient-Based Meta-Learning with Learned Layerwise Metric and Subspace
文件大小：939KB
文件格式：PDF
更新时间：2023-08-11 04:58:35
元学习 度量学习 子空间
论文摘要：基于梯度的元学习已被证明具有足够的表现力，可以近似任何学习算法。 尽管先前的此类方法已在元学习任务中取得成功，但它们诉诸于简单的gradientdescentduringmeta测试。 我们的主要贡献是MT-net，它使元学习者能够了解每个子层的激活空间，该子空间的任务指定清除器在其上执行梯度下降。 另外，MT-net的任务特定学习者相对于元学习距离度量执行梯度下降，这会使激活空间对任务身份更加敏感。 我们证明了这个学习的子空间的维度反映了任务特定学习者的适应任务的复杂性，并且我们的模型对初始学习速率的选择不如以前的基于梯度的元学习方法敏感。 我们的方法在几次快照分类和回归任务上都达到了最新或相当的性能。