逻辑回归分类器的Bootstrap聚合(装袋)



所以我取了N个bootstrap样本,并在这些样本上训练了N个逻辑回归分类器。每个分类器都给了我一些属于二元类的概率,然后我对这N个概率进行平均,得到最终的预测。

我的问题是,如果我取N组回归系数并对其取平均值,并在逻辑回归分类器中使用该组平均系数,并将输出概率作为最终预测,这与前一段中所述的取N个概率的平均值相同吗?

答案是否定的,因为逻辑函数是非线性的:1/(1+exp(-a)) + 1/(1+exp(-b))不等于1/(1+exp(-(a+b)))

但逻辑函数的倒数(也称为对数比值)是线性的(本维基页面中的g(x))。如果您正在计算对数赔率,您可以在装袋过程中对相应的系数(页面中的beta0beta1)取平均值。

最新更新