1.回归
平方差损失函数：
我们需要衡量价格预测值与真实值之间的误差。通常我们会选取一个非负数作为误差，且数值越小表示误差越小。一个常用的选择是平方函数。它在评估索引为 ii 的样本误差的表达式为：
其中常数 使对平方项求导后的常数系数为1，这样在形式上稍微简单一些。显然，误差越小表示预测价格与真实价格越相近，且当二者相等时误差为0。给定训练数据集，这个误差只与模型参数相关，因此我们将它记为以模型参数为参数的函数。在机器学习里，将衡量误差的函数称为损失函数（loss function）。这里使用的平方误差函数也称为平方损失（square loss）。
通常，我们用训练数据集中所有样本误差的平均来衡量模型预测的质量，即
2.分类
交叉熵损失函数：
想要预测分类结果正确，我们其实并不需要预测概率完全等于标签概率。只要比其他预测值概率大就行。平方损失则过于严格。交叉熵适合衡量两个概率分布的差异。
改善上述问题的一个方法是使用更适合衡量两个概率分布差异的测量函数。其中，交叉熵（cross entropy）是一个常用的衡量方法：
