文件名称：深度学习PyTorch版学习笔记与心得（二）
文件大小：83KB
文件格式：PDF
更新时间：2024-02-10 05:49:36
c OR 学习
多层感知机 1.多层感知机的基本知识 多层感知机（MLP）是研究神经网络的一个非常重要的多层模型。 下图展示了一个多层感知机的神经网络图，它含有一个隐藏层，该层中有5个隐藏单元。 表达公式： 具体来说，给定一个小批量样本X∈Rn×dX∈Rn×d，其批量大小为nn，输入个数为dd。假设多层感知机只有一个隐藏层，其中隐藏单元个数为hh。记隐藏层的输出（也称为隐藏层变量或隐藏变量）为HH，有H∈Rn×hH∈Rn×h。因为隐藏层和输出层均是全连接层，可以设隐藏层的权重参数和偏差参数分别为Wh∈Rd×hWh∈Rd×h和 bh∈R1×hbh∈R1×h，输出层的