通过极限学习机学习深度表示

时间:2024-04-28 12:41:37
【文件属性】:

文件名称:通过极限学习机学习深度表示

文件大小:1.14MB

文件格式:PDF

更新时间:2024-04-28 12:41:37

Extreme learning machine; Deep learning;

极限学习机(ELM)作为一种新兴技术,在大规模设置中取得了卓越的性能,非常适合于二进制和多类分类以及回归任务。 但是,现有的ELM及其变体主要使用单个隐藏层前馈网络,而未使用流行的且可能功能强大的堆叠泛化原理来寻找输入数据的预测性深层表示。 深度架构可以找到更高级别的表示,因此可以潜在地捕获相关的更高级别的抽象。 但是,当前大多数深度学习方法都需要解决一个困难且非凸的优化问题。 在本文中,我们提出了一个堆叠模型DrELM,以根据堆叠泛化原理通过极限学习机学习深度表示。 所提出的模型利用ELM作为基本构建块,并结合了随机移位和内核化作为堆栈元素。 具体而言,在每层中,DrELM将ELM获得的预测的随机投影集成到原始特征中,然后应用内核函数来生成结果特征。 为了验证DrELM的分类和回归性能,我们在合成数据集和实际数据集上进行了实验。 实验结果表明,DrELM优于ELM和内核ELM,这似乎证明DrELM可以产生适合于预测任务的预测特征。 深度模型(即堆叠式自动编码器)的性能是可比的。 但是,由于使用了ELM,DrELM更易于学习,并且测试速度更快。


网友评论