本节主要内容：
- 模式和模式识别的概念
- 模式识别的发展简史和应用
- 模式识别的主要方法
- 模式识别的系统和实例
- 几个相关的数学概念
1、模式和模式识别的概念
什么是模式（Pattern)？
广义地说，存在于时间和空间中可观察的事物，如果我们可以区别他们是否相同或是否相似，都可以称之为模式。
模式所指的不是事物本身，而是从事物获得的信息，因此，模式往往表现为具有时间和空间分布的信息。
模式的直观特性：
——可观察性
——可区分性
——相似性
模式识别的概念
模式识别—直观，无所不在，“人以类聚，物以群分”
——周围物体的认知：桌子、椅子
——人的识别：张三、李四
——声音的辨别：汽车。火车、狗叫、人语
——气味的分辨：炸带鱼、红烧肉
人和动物的识别能力是极为平常的，但对计算机来说却是非常困难的。
模式识别的研究
目的：利用计算机对物理对象进行分类，在错误概率最小的条件下，使识别的结果尽量与客观物体相符合。
Y=F（X）
——X的定义域去取自特征集
——Y的值域为类别的标号集
——F是模式识别的判别方法
2、模式识别的应用（举例）
工程
——产品缺陷检测、特征识别、语音识别、自动导航系统、污染分析
军事
——航空摄像分析、雷达和声纳信号检测和分类、自动目标识别
安全
——指纹识别、人脸识别、监视和报警系统
3、模式识别的主要方法
模式识别的方法
模式识别系统的目标：在特征空间和解释空间之间找到一种映射关系，这种映射也称之为假说。
——特征空间：从模式得到的对分类有用的度量、属性或基元构成的空间。
——解释空间：将c个类别表示为
，i=1,2,...,c
其中，
为所属类别的集合，称为解释空间。
假说的两种获得方法
监督学习、概念驱动或归纳假说：在特征空间中找到一个与解释空间的结构相对应的假说。在给定模式下假定一个解决方案，任何在训练集中接近目标的假说也都必须在“未知的样本上得到近似的结果。
——依靠已知所属类别的训练样本集，按它们特征向量的分布来确定假说（通常为一个判别函数），在判别函数确定之后能用它对未知的模式进行分类；
——对分类的模式要有足够的先验知识。通常需要采集足够数量的具有典型性的样本进行训练。
非监督学习。数据驱动或演绎假说：在解释空间中找到一个与特征空间的结构相对应的假说。这种方法试图找到一种只以特征空间中的相似关系为基础的有效假说。
——在没有先验知识的情况下，通常采用聚类分析方法，基于“物以类聚”的观点，用数学方法分析各特征向量之间的距离及分散情况；
——如果特征向量集聚集若干个群，可按群间距离远近把它们划分成类；
——这种按各类之间的亲疏程度的划分，若事先能知道应划分成几类，则可获得更好的分类结果。
模式分类的主要方法
- 数据聚类
- 统计分类
- 结构模式识别
- 神经网络
数据聚类
- 目标：用某种相似性度量的方法将原始数据组织成有意义的和有用的各种数据集。
- 是一种非监督学习的方法，解决方案是数据驱动的。
统计分类
- 基于概率统计模型得到各类别的特征向量的分布，以取得分类的方法。
- 特征向量分布的获得是基于一个类别已知的训练样本集。
- 是一种监督分类的方法，分类器是概念驱动的
结构模式识别
- 该方法通过考虑识别对象的各部分之间的联系来达到识别分类的目的。
- 识别采用结构匹配的形式，通过计算一个匹配程度值（matching score）来评估一个未知的对象或未知对象某些部分与某种典型模式的关系如何。
- 当成功地制定出了一组可以描述对象部分之间关系的规则后，可以应用一种特殊的结构模式识别方法—句法模式识别，来检查一个模式基元的序列是否遵守某种规则，即句法规则或语法。
神经网络
- 神经网络是受人脑组织的生理学启发而创立的。
- 由一系列互相联系的、相同的单元（神经元）组成。相互间的联系可以在不同的神经元之间传递增强或抑制信号。
- 增强或抑制是通过调整神经元相互间联系的权重系数来（weight）实现。
- 神经网络可以实现监督和非监督学习条件下的分类。
4、模式识别系统和实例
模式识别系统
模式识别系统的基本构成
模式识别系统组成单元
- 数据获取：用计算机可以运算的符号来表示所研究的对像
——一维波形：脑电图、心电图、季节震动波形等
——%E�%Q9�E7��参量和逻辑值：体温、化验数据、参量正常与否的描述
- 预处理单元：去噪声，提取有用信息，并对输入测量仪器或其它因素所造成的退化现象进行复原。
- 特征提取和选择：对原始数据进行变换，得到最能反映分类本质的特征
——特征空间：分类识别赖以进行的空间
——模式表示：维数较高的测量空间“—>维数较低的特征空间
- 分类决策：在特征空间中用模式识别方法把被识别对象归为某一类别
模式识别过程实例
- 在传送带上用光学传感器件对鱼按品种分类
识别过程
- 数据获取：架设一个摄像机，采集一些样本图像，获取样本数据
- 预处理：去噪声，用一个分割操作把鱼和鱼之间以及鱼和背景之间分开
- 特征提取和选择：对单个鱼的信息进行特征选择，从而通过测量某些特征来减少信息量——长度、亮度、宽度、鱼翅的数量和形状、嘴的位置，等等
- 分类决策：把特征送入决策分类器
模式分类器的获取和评测过程
- 数据采集
- 特征选取
- 模型选择
- 训练和测试
- 计算结果和复杂度分析，反馈
训练和测试
- 训练集：是一个已知样本集，在监督学习方法中，用它来开发出模式分类器。
- 测试集：在设计识别和分类系统时没有用过的独立样本集。
- 系统评价原则：为了更好地对模式识别系统性能进行评价，必须使用一组独立于训练集的测试集对系统进行测试。
5、相关数学概念分布
随机向量及其分布
——随机向量
- 如果一个对象的特征观察值为{x1,x2,...,xn}，它可构成一个n维的特征向量值X，即
- 一个特征可以看作n维空间中的向量或点，此空间称为模式的特征空间Rn。
- 在模式识别过程中，要对许多具体对象进行测量，以获得许多次观测值。
- 每次观测值不一定相同，所以对许多对象而言，各个特征分量都是随机变量；即许多对象的特征向量在n维空间中呈随机性分布，成为随机向量。
——随机向量的参数
- 数学期望（均值）和方差
- 协方差矩阵
- [例：求随机变量的数学期望和协方差矩阵]
- 正态分布
本门课程主要内容
第一章 概论第二章 聚类分析第三章 判别函数第四章 统计判别第四章 特征选择和提取第五章 神经网络第六章 句法模式识别第七章 模糊模式识别第八章 模式识别应用