从训练测试拆分到sklearn中使用管道的交叉验证

Question

我有以下代码：

from sklearn import model_selection
from sklearn.ensemble import RandomForestClassifier
import pandas as pd
from sklearn.pipeline import Pipeline
...
x_train, x_test, y_train, y_test= model_selection.train_test_split(dataframe[features_],dataframe[labels], test_size=0.30,random_state=42, shuffle=True)
classifier = RandomForestClassifier(n_estimators=11)
pipe = Pipeline([('feats', feature), ('clf', classifier)])
pipe.fit(x_train, y_train)
predicts = pipe.predict(x_test)

我想使用k次交叉验证来训练我的模型，而不是训练测试分割。然而，我不知道如何使用管道结构来实现它。我偶然发现：https://scikit-learn.org/stable/modules/compose.html但我无法适应我的代码。

如果可能的话，我想使用from sklearn.model_selection import StratifiedKFold。我可以在没有管道结构的情况下使用它，但我不能将它与管道一起使用。

更新：我试过了，但它给我带来了错误。

x_train = dataframe[features_]
y_train = dataframe[labels]
skf = StratifiedKFold(n_splits=3, shuffle=True, random_state=42) 
classifier = RandomForestClassifier(n_estimators=11)

#pipe = Pipeline([('feats', feature), ('clf', classifier)])
#pipe.fit(x_train, y_train)
#predicts = pipe.predict(x_test)
predicts = cross_val_predict(classifier, x_train , y_train , cv=skf)

Answer 1

Pipeline用于组装几个步骤，如预处理、转换和建模。StratifiedKFold用于拆分数据集以评估模型的性能。它不应该用作Pipeline的一部分，因为您不想在新数据上执行它。

因此，在管道结构之外执行它是正常的。

Answer 2

虽然我赞同上面提供的答案，但下面可能是您正在寻找的代码：

x_train = dataframe[features_]
y_train = dataframe[labels]

pipe = Pipeline([('feats', feature), ('clf', RandomForestClassifier(n_estimators=11))])
skf = StratifiedKFold(n_splits=3,  shuffle=True, random_state=42)      
predicts = cross_val_predict(pipe, x , y , scoring='accuracy',cv=skf, n_jobs = -1, error_score = 'raise')

由于您使用的是交叉验证，train_testrongplit((不需要传递到管道，交叉验证拆分(即训练样本(直接传递到管道进行特征提取和建模，并在测试集上进行评估(测试集也是cv拆分的一部分(