机器学习的定义
顾名思义,机器学习是研究如何使用机器来模拟人类学习活动的一门学科。
稍为严格的提法是：机器学习是一门研究机器获取新知识和新技能,并识别现有知识的学问。
影响学习系统设计的要素
- 环境向系统提供的信息或者更具体地说是信息的质量
- 最重要因素知识库是影响学习系统设计的第二个因素
知识的表示有特征向量、一阶逻辑语句、产生式规则、语义网络和框架等多种形式
- Rote Learning(死记硬背式学习、机械学习)
- memory-based
- Learning from Induction(归纳学习)
- Learning from examples (Supervised)
- Learning from observation and discovery (Unsupervised)
- Learning by Analogy (类比学习)
- according to the similarity of knowledge in different domain
- Explanation-based Learning(解释学习)
- Deduction and Induction are combined
- Neural Learning
机械学习的主要问题
- 存储组织信息：要采用适当的存储方式，使检索速度尽可能地快。
- 环境的稳定性与存储信息的适用性问题：机械学习系统必须保证所保存的信息适应于外界环境变化的需要。
- 存储与计算之间的权衡：对于机械学习来说很重要的一点是它不能降低系统的效率。
人脑学习机理的两大学派
化学学派
认为人脑经学习所获得的信息是记录在某些生物大分子之上的。例如，蛋白质、核糖核酸、神经递质，就像遗传信息是记录在DNA（脱氧核糖核酸）上一样。
突触修正学派
人脑学习所获得的信息是分布在神经元之间的突触连接上的。
人脑的学习和记忆过程实际上是一个在训练中完成的突触连接权值的修正和稳定过程。其中，学习表现为突触连接权值的修正，记忆则表现为突触连接权值的稳定是人工神经网络学习和记忆机制研究的心理学基础，与此对应的权值修正学派也一直是人工神经网络研究的主流学派。神经学习是对人脑神经系统学习机理的一种模拟。