线性回归中正则化器常量的范围


可用于

"Lambda"的值范围是否有任何限制 - 线性回归中的正则化器常量。[机器学习问题]

当 Lambda 值为 100 时,我很好地拟合了数据。这是否在"实际"可接受的限制中?

我认为从理论上讲,Lambda 的价值很好,但用于实际用途?

[解决家庭作业问题需要小澄清。

我不认为lambda的实用价值是有限的。你选择了最适合你的问题的方法并坚持下去。例如,如果你有太多的特征而太少的数据,那么模型就会趋于过度拟合,你必须用更大的λ来对抗它(更好的办法是获取更多数据或删除一些特征)。另一方面,如果你有大量的数据和相对较少的特征,那么过度拟合将不是一个大问题,lambda可以更小。

选择 Lambda 的一种方法是使用 lambda [A .B](其中 A>0、B>A),然后在交叉验证集上绘制成本函数。它将接近凸曲线,对应于全局最小值的 lambda 将是最佳曲线。

有关更完整的解释,请观看此讲座:https://class.coursera.org/ml/lecture/preview/63

最新更新