监督学习算法工作流程
h代表假设函数,h是一个引导x得到y的函数
如何表示h函数是监督学习的关键问题
线性回归:h函数是一个线性函数
代价函数
在线性回归问题中,常常需要解决最小化问题。代价函数常用平方误差函数来表示
代价函数就是用于找到最优解的目的函数,这也是代价函数的作用
ps:尽可能简化问题去理解一些抽象概念,如单一的参数变化等等
可以利用代价函数去寻找你拟合效果最好的假设函数的参数
当参数很多时,利用图表来寻找最小代价函数就变得比较复杂,故引出梯度下降法。
梯度下降法最小化任意代价函数J
梯度下降法的思路:给定初始值,一般初始值为0.然后不断修改参数直到目标函数取到最小值