二阶收敛算法

时间:2021-12-15 04:21:30

1预备知识

1.1 什么叫二次函数

二阶收敛算法

1.2 什么叫二阶收敛

如果在有限步内找到二次函数的最优解,则该算法就称为二阶收敛。

1.3 什么叫共轭方向

二阶收敛算法

2 共轭梯度法

2.1 引入

二阶收敛算法

二阶收敛算法

2.2 特点

二阶收敛算法

举个例子体会:

二阶收敛算法

2.3 Fletcher-Reeves 算法

二阶收敛算法

举个例子体会:

二阶收敛算法

这个例子是想说明:按照前边的理论来说,对于二次函数,最多迭代n次(维数),必然达到最优点,而此例题是因为中间有计算的误差,所以没有达到最优点。解决办法是:执行步骤3。

2.4 Powell 算法

二阶收敛算法

二阶收敛算法

举个例子体会:

二阶收敛算法

这个例子想说明:有计算误差,所以最后的结果不为0。

3 变尺度算法

3.1 引入

二阶收敛算法

3.2 Fletcher-Powell 变尺度算法

二阶收敛算法

举个例子体会:

二阶收敛算法

二阶收敛算法