凸函数
仿射函数:affine function
仿射函数即由1阶多项式构成的函数,一般形式为 f (x) = A x + b,这里,A 是一个 m×k 矩阵,x 是一个 k 向量,b是一个m向量,实际上反映了一种从 k 维到 m 维的空间映射关系。
设f是一个矢性(值)函数,若它可以表示为f(x1,x2,…,xn)=A1x1+A2x2+…+Anxn+b,其中Ai可以是标量,也可以是矩阵,则称f是仿射函数。
deg(f)=1的函数称为仿射函数,常数项为零的仿射函数称为线性函数,n元仿射(线性)函数的集合记为na(nl).:car+(非负实数)为弧上的权函数,弧(i,j)a上的权c(i,j)称为容量,记为cij。
海赛矩阵
海赛矩阵
在数学中,海赛矩阵是一个自变量为向量的实值函数的二阶偏导数组成的方块矩阵,此函数如下:如果f所有的二阶导数都存在,那么f 的海赛矩阵即:
- H(f)ij(x) = DiDjf(x)
其中 ,即
(也有人把海色定义为以上矩阵的行列式) 海赛矩阵被应用于牛顿法解决的大规模优化问题。
混合偏导数和海赛矩阵的对称性
海赛矩阵的混合偏导数是海色矩阵主对角线上的元素。假如他们是连续的,那么求导顺序没有区别,即
上式也可写为
在正式写法中,如果f函数在区域D内连续并处处存在二阶导数,那么f的海赛矩阵在D区域内为对称矩阵。
在 R^2→R 的函数的应用
给定二阶导数连续的函数,海色矩阵的行列式,可用于分辨f的临界点是属于鞍点还是极值。
对于f的临界点(x0,y0)一点,有 ,然而凭一阶导数不能判断它是鞍点、局部极大点还是局部极小点。海赛矩阵可能解答这个问题。
H > 0 :若,则(x0,y0)是局部极小点;若,则(x0,y0)是局部极大点。
H < 0 :(x0,y0)是鞍点。
H = 0 :二阶导数无法判断该临界点的性质,得从更高阶的导数以泰勒公式考虑。