【王俊杰de人工智能实战课】第6次作业

Brief Guide

项目	内容
这个作业属于哪个课程	北航人工智能实战课
这个作业的要求在哪里	第三次作业要求
我在这个课程的目标是	获得机器学习相关的完整项目与学习经验；通过与人工智能行业的大牛们聊天了解行业不同方向的发展以便进行职业规划；为转CS积累基础知识并获得相关课程的成绩
这个作业在哪个具体方面帮助我实现目标	对三层神经网络调参，了解控制模型精确度的方法
作业正文…	【王俊杰de人工智能实战课】第6次作业
其他参考文献…	微软AI教育GitHub

Main Homework

代码

learning_rate = 0.2
n_hidden1 = 32
n_hidden2 = 16
m_epoch = 2
batch_size = 10

调整参数

将 Max Epoch 设置为 10，确保在不同的学习率的情况下，学习结果都可以尽量到达平滑稳定阶段

1、调整学习率

除学习率外的参数设置

其余参数	数值
Hidden Neural Number 1	32
Hidden Neural Number 2	16
Batch Size	10
Max Epoch	10

学习率的数值设置

学习率	准确率
0.01	0.9538
0.03	0.9621
0.05	0.9681
0.1	0.9671
0.2	0.9631
0.3	0.9631
0.4	0.9578
0.5	0.9532
0.6	0.9543
0.7	0.9455

2、调整隐藏层的神经元数量

除隐藏层神经元数量外的参数设置

其余参数	数值
Learning Rate	0.2
Batch Size	10
Max Epoch	10

隐藏层神经元数量的数值设置

第一层	第二层	准确率
32	16	0.9631
64	16	0.9694
32	32	0.9653
64	32	0.9719

3、调整批大小

除批大小外的参数设置

其余参数	数值
Learning Rate	0.2
Hidden Neural Number 1	32
Hidden Neural Number 2	16
Max Epoch	10

批大小的数值设置

批大小	准确率
10	0.9651
12	0.9605
14	0.9662
16	0.9619
18	0.9645
20	0.9676

4、调整最大的epoch值

除最大epoch值外的参数设置

其余参数	数值
Learning Rate	0.2
Hidden Neural Number 1	32
Hidden Neural Number 2	16
Batch Size	10

最大epoch值的数值设置

最大epoch	准确率
2	0.954
4	0.9574
6	0.9589
8	0.9612
10	0.972

最终结果

1、较优参数设置

参数	数值
Learning Rate	0.2
Hidden Neural Number 1	64
Hidden Neural Number 2	32
Batch Size	20
Max Epoch	10

2、准确度结果

accuracy = 0.9733

3、LOSS下降曲线展示