文件名称：研究思路和主要工作-希赛系统架构设计师教程（第4版）
文件大小：4.16MB
文件格式：PDF
更新时间：2024-06-29 06:09:38
DBN
1.1 研究背景 随着人工智能的不断发展，在现实生活中人们用到的越来越多。从人机对弈， 到无人驾驶，从图像识别到同声翻译，无一不取得了重大突破。早在五十年代就 兴起的人工神经网络经历了高潮和低谷，并一直存在到现在，最终成为人工智能 大家庭中最为璀璨的一朵奇葩。人工神经网络曾近一度因为中间层权值的调整不 便而陷入了低谷，后来在加拿大多伦多大学 Geoffrey Hinton教授提出 BP算法后 再次活跃起来。在九十年代支持向量机 SVM 飞速发展，并在机器学习中表现出了 良好的效果，人工神经网络逐渐陷入低谷。于 2006年，Geoffrey Hinton教授再 次提出深度学习的概念，并把神经网络引入到一个完全新的领域——深度学习。 神经网络再次成为焦点，2012微软在天津展示机器同声翻译，并取得了令人瞩目 的成果，大大鼓舞了深度学习。深度学习已经成为人工智能未来新的发展方向。 1.2 研究意义 DBN属于新的神经网络，由于其自编码过程可以提取数据的特征，因而广泛 的用于模式识别。自编码过程中预训练对权值的初始化大大减少了梯度下降算法 的训练次数，对于更多层次网络权值的求取速度和精度会更快更准确。DBN已经 开始试用于一些图像处理和自然语言处理。相比普通神经网络，效果更好。在未 来机器学习领域，深度学习的使用会越来越广泛。相信深度学习在未来必定可以 引领世界走向更加智能的时代。 1.3 研究思路和主要工作 随着人工智能的不断发展，在现实生活中人们用到的越来越多，本文中详细 论述了 DBN的发展过程，从离散型 Hopfield 到 BM、RBM，然后到自编码，最终引 出了 DBN，并运用 DBN对手写数字进行处理。主要完成以下几方面的任务: (1)概述离散型 Hopfield神经网络工作机理，以及其对玻尔兹曼机 BM的出现 具有奠定基础的意义。详细分析了引入统计力学思想的 BM，从模型假设、理论推 导、模型架构、模型建立等过程。 (2)在玻尔兹曼机 BM基础上加以改进，提出了受限玻尔兹曼机 RBM。