【文件属性】:
文件名称:Gradient-Descent
文件大小:60KB
文件格式:ZIP
更新时间:2021-03-15 02:40:53
JupyterNotebook
梯度下降
什么是Gradiant? 梯度表示变化率/导数的斜率。
什么是后裔? 下降意味着跌倒
什么是梯度下降?
梯度下降是一种优化算法,用于查找使成本函数(cost)最小化的函数(f)的参数(系数)的值。
当无法解析地计算参数(例如使用线性代数)并且必须通过优化算法进行搜索时,最好使用梯度下降。
梯度下降是一种迭代优化算法,用于查找函数的最小值。
也称为跟踪和错误。
梯度下降的类型
批梯度下降
随机梯度下降
迷你批次梯度下降
梯度下降的步骤
在随机位置或简单地将其初始化为零(权重和偏差)。
计算成本函数(J)。
取成本函数相对于权重和偏差(dW和db)的偏导数。
将参数值更改为:Wnew = W –学习率* dW Bnew = b –学习率* db
同样,从步骤2开始,使用W和b的新值,并对“ n”号重复相同的操作。 的迭代。 随着每次迭代,成本的价值将逐渐降低,并最
【文件预览】:
Gradient-Descent-main
----README.md(1KB)
----Sample_data(Gredient Descent).csv(2KB)
----Gradient_Descent.ipynb(160KB)