Fisher线性判别分析

时间:2022-10-30 16:28:41

Fisher线性判别分析

1、概述

在使用统计方法处理模式识别问题时,往往是在低维空间展开研究,然而实际中数据往往是高维的,基于统计的方法往往很难求解,因此降维成了解决问题的突破口。

假设数据存在于d维空间中,在数学上,通过投影使数据映射到一条直线上,即维度从d维变为1维,这是容易实现的,但是即使数据在d维空间按集群形式紧凑分布,在某些1维空间上也会难以区分,为了使得数据在1维空间也变得容易区分,需要找到适当的直线方向,使数据映射在该直线上,各类样本集群交互较少。如何找到这条直线,或者说如何找到该直线方向,这是Fisher线性判别需要解决的问题。

Fisher线性判别分析

2、从d维空间变换到1维空间

Fisher线性判别分析

3、介绍几个基本的参量

A. 在d维原始空间

Fisher线性判别分析

B. 在1维映射空间

Fisher线性判别分析

4、Fisher准则函数

Fisher线性判别分析

5、学习算法推导

Fisher线性判别分析

Fisher线性判别分析

Fisher线性判别分析

Fisher线性判别分析

6、决策分类

Fisher线性判别分析

Fisher线性判别分析