【应用机器学习】正则化与偏差、方差

在我们在训练模型的过程中,一般会使用一些正则化方法来防止过拟合。

但是我们可能会正则化的程度太高或太小了,即我们在选择λ的值时也需要思考与之前选择多项式模型次数类似的问题。

欠拟合与过拟合

我们选择一系列的想要测试的λ值,比如这里选择 0-10之间的值,通常呈现2倍关系(如:0,0.01,0.02,0.04,0.08,0.15,0.32,0.64,1.28,2.56,5.12,10 共12个)。

我们同样把数据分为训练集、交叉验证集和测试集。

尝试一系列lamda

选择λ的方法

  1. 使用训练集训练出12个不同程度正则化的模型

  2. 用12个模型分别对交叉验证集计算的出交叉验证误差

  3. 选择得出交叉验证误差最小的模型

  4. 运用步骤3中选出模型对测试集计算得出推广误差

我们也可以同时将训练集和交叉验证集模型的代价函数误差与λ的值绘制在一张图表上:

代价函数误差与lamda

λ较小时,训练集误差较小(过拟合)而交叉验证集误差较大

随着λ的增加,训练集误差不断增加(欠拟合),而交叉验证集误差则是先减小后增加

Licensed under CC BY-NC-SA 4.0
comments powered by Disqus
Built with Hugo
Theme Stack designed by Jimmy