机器学习——决策树算法
决策树的基本概念决策树算法是一类常用的机器学习算法，在分类问题中，决策树算法通过样本中某一维属性的值，将样本划分到不同的类别中去。 选择最佳划分的标准 选择划分数据集的特征的时候存在一定的顺序，选择的依据是这一维特征对数据的划分更具区分性，在决策树算法中，通常有这些标准：信息增益、增益率和基尼系数...
机器学习-决策树算法
1 决策树决策树是一种能解决分类或回归问题的机器学习算法。其有良好的扩展性，可以产生多种变种。并且结合模型融合方法扩展新的算法AdaBoost，GBDT等算法。 参考文章：C4.5算法详解（非常仔细）:https://blog.csdn.net/zjsghww/article/details/516...
机器学习决策树(2)
剪枝处理剪枝是决策树学习算法对付过拟合的主要手段。剪枝的基本策略有预剪枝和后剪枝。预剪枝是指在决策树生成过程中，对每个节点在划分前先进行估计，若当前节点的划分不能带来决策树泛化性能的提升，则停止划分并将当前节点标记为叶节点。后剪枝则是先从训练集生成一颗完整的决策树，然后自底向上地对非叶节点进行考察，...
机器人学中的状态估计——学习笔记
机器人学中的状态估计——学习笔记离散时间的批量估计问题1、最大后验概率法(Maximum A Posteriori, MAP)2、贝叶斯推断(Bayesian inference)离散时间的迭代平滑问题1、Cholesky平滑算法2、Rauch-Tung-Striebel 平滑算法离散时间的迭代滤波...
白板推导机器学习系列笔记——手推SVM(1)
笔记是听了b站大神的白板推导机器学习系列课，再结合李航老师的《统计学习方法》、周志华老师的西瓜书以及其他优秀博主的博客而成（浑然天成！！！）：https://space.bilibili.com/97068901?from=search&seid=9183191776664110144（大神...
【机器学习】线性回归
本文转载自：知识库-线性回归前段时间其实已经写过三篇关于回归类问题的博客，但是那三篇主要注重的是代码练习。本篇博客注重的理论分析。而且对各类回归问题做一个总结，包括一元线性回归，多元线性回归，逻辑回归，岭回归，softmax回归。以前在学习的时候感觉这部分很通畅，没遇到什么大问题，但是昨天复习的时候...
机器人学，机器视觉与控制学习笔记——机械臂运动学
运动学是力学的一个分支，他在不考虑外力和质量的前提下研究一个物体。机械臂是由一组成为连杆的刚体组成的，连杆之间由关节连接。分析机械臂运动学的第一步是根据机械臂的构造建立连杆坐标系，连杆坐标系最常用的方法就是D-H法，D-H法首先根据下图确定每个关节坐标系的方向，对于转动关节，zi-1轴在转轴上，xi...
阿里云机器学习平台使用——协同过滤推荐算法快速应用
标签： 数加概述PAI机器学习平台是构建在阿里云ODPS计算平台之上，集数据处理、建模、离线预测、在线预测为一体的机器学习平台。 该平台为算法开发者提供了丰富的MPI、PS、BSP等编程框架和数据存取接口，同时为算法使用者提供了基于Web的IDE+可视化实验搭建控制台。平台目前整合了阿里集团内最先进...
罗斯基的机器学习（二）线性回归与Logistic回归
机器学习（二） 线性回归与Logistic回归 线性回归与Logistic回归不是一类问题！光看名字，很容易让人误导是一类算法，其实不然...
ABB机器人学习之控制杆知多少
唠了好几篇搭建博客的文章，现在我们该唠一唠工业机器人啦。这一篇我们唠一唠ABB机器人的示教器上的控制杆，控制杆的所有操作大家是不是都知道了呢？ABB机器人的示教器应该是外观上最简单，最简洁的了，一块电阻式触摸屏、多个操作快捷键、一个控制杆、一个急停按钮、一个USB接口。对于机器人的单轴、线性及重定位...
机器人学，机器视觉与控制学习笔记——位置与姿态描述
在这一章中主要任务是学习如何在二维和三维世界中描述点和位姿。对于一个点来说我们描述他时只用位置就够了，但是对于描述一个物体来说，我们不仅需要说明位置还需要说明姿态，我们将位置和姿态统称为位姿。首先应该明确的是1.一个点用坐标向量来表示，它代表该点在参考坐标系中的位移；2.刚体用一个单独的坐标系表示，...
机器学习中各种距离计算
机器学习中各种距离计算原文： http://blog.csdn.net/qq_23617681/article/details/51471156机器学习中，经常需要计算各种距离。 比如KNN近邻的距离，Kmeans距离，相似度中的距离计算。 这种距离不一定都是欧氏距离，针对不同需求，数据的不同特点，...
机器学习知识点(二十二)高斯分布（正态分布）基础知识
1、概念正态分布（Normal distribution）又名高斯分布（Gaussian distribution），是一个在数学、物理及工程等领域都非常重要的概率分布，在统计学的许多方面有着重大的影响力。若随机变量服从一个位置参数为、尺度参数为的概率分布，记为：则其概率密度函数为正态分布的数学期望...
硬核机器学习干货，手把手教你写KNN！
机器学习相关概念人工智能、机器学习和深度学习的关系在探讨算法之前，我们先来谈一谈什么是机器学习。相信大家都听说过AlphaGo：2016年3月，AlphaGo与围棋世界冠军李世石进行围棋人机大战，最终以4:1获胜；2017年5月，AlphaGo与世界围棋冠军柯洁对战，以3:0获胜。AlphaGo其实...
【转】机器学习教程 十四-利用tensorflow做手写数字识别
模式识别领域应用机器学习的场景非常多，手写识别就是其中一种，最简单的数字识别是一个多类分类问题，我们借这个多类分类问题来介绍一下google最新开源的tensorflow框架，后面深度学习的内容都会基于tensorflow来介绍和演示请尊重原创，转载请注明来源网站www.shareditor.com...
Python 3 利用机器学习模型 进行手写体数字检测
0.引言介绍了如何生成手写体数字的数据，提取特征，借助 sklearn 机器学习模型建模，进行识别手写体数字 1-9 模型的建立和测试。用到的几种模型：1. LR，Logistic Regression， （线性模型）中的逻辑斯特回归2. Linear SVC，Support Vector Cla...
机器学习 —— 基础整理（三）生成式模型的非参数方法： Parzen窗估计、k近邻估计；k近邻分类器
本文简述了以下内容：（一）生成式模型的非参数方法（二）Parzen窗估计（三）k近邻估计（四）k近邻分类器（k-nearest neighbor，kNN）（一）非参数方法（Non-parametric method）对于生成式模型（Generative model）来说，重要的地方在于类条件概率密度...
机器学习实践：超市商品购买关联规则分析
第2关：动手实现Apriori算法 任务描述 本关任务：编写 Python 代码实现 Apriori 算法。 相关知识 为了完成本关任务，你需要掌握 Apriori 算法流程。 Apriori 算法流程 Apriori 算法的两个输人参数分别是...
机器学习-分类器-Adaboost原理
Adaboost原理Adaboost(AdaptiveBoosting)是一种迭代算法，通过对训练集不断训练弱分类器，然后把这些弱分类器集合起来，构成强分类器。adaboost算法训练的过程中，初始化所有训练样例的具有相同的权值重，在此样本分布下训练出一个弱分类器，针对错分样本加大对其对应的权值，分...
《机器学习实战》之一：knn(python代码)
数据标称型和数值型算法归一化处理：防止数值较大的特征对距离产生较大影响计算欧式距离：测试样本与训练集排序：选取前k个距离，统计频数(出现次数)最多的类别 def classify0(inX, dataSet, labels, k): ''' :param inX: 测试样本(arr)...