为线性回归注入自定义成本函数

Question

我想运行套索或岭回归，但其中系数的 L1 或 L2 约束是针对某些系数，而不是全部。

另一种说法：我想在套索或脊算法中使用我自己的自定义成本函数。

我想避免重写整个算法。python 中是否有允许这样做的模块？到目前为止，我查看了scipy和sckit-learn，但找不到。

Answer 1

我怀疑没有现成的模块可以满足您的需求。

如果我是你，我会：

1. 将特征分为 2 组：一组用于简单线性回归，另一组用于正则化回归。在两个不同的（也许是重叠的？）特征集上训练两个模型。当您交叉验证模型时，为了防止折叠之间的信息泄漏，我建议修复折叠并在同一组固定折叠上训练两个模型。

2. 最重要的是，堆叠和训练任何其他回归模型。