如何使用 GridSearchCV 通过train_test_split策略调整参数

Question

我正在尝试使用train_test_split策略微调我的sklearn模型。我知道 GridSearchCV 执行参数调整的能力，但是，它与使用交叉验证策略有关，我想使用train_test_split策略进行参数搜索，因为训练速度对我的情况很重要，我更喜欢简单的train_test_split而不是交叉验证。

我可以尝试编写自己的 for 循环，但由于没有利用 GridSearchCV 中使用的内置并行化，效率低下。

有人知道如何利用GridSearchCV吗？或者提供一个不太慢的替代方案。

Answer 1

是的，你可以使用ShuffleSplit来实现这一点。

ShuffleSplit 是一种交叉验证策略，类似于KFold，但与您必须训练K模型KFold不同，在这里您可以控制进行训练/测试拆分的次数，如果您愿意，甚至可以一次。

shuffle_split = ShuffleSplit(n_splits=1,test_size=.25)

n_splits定义了重复此拆分和训练例程的次数。 现在你可以像这样使用它：

GridSearchCV(clf,param_grid={},cv=shuffle_split)

Answer 2

我想通过提供一个代码示例来补充Shihab Shahriar的答案。

import pandas as pd
from sklearn import datasets
from sklearn.model_selection import GridSearchCV, ShuffleSplit
from sklearn.ensemble import RandomForestClassifier
# Load iris dataset
iris = datasets.load_iris()
# Prepare X and y as dataframe
X = pd.DataFrame(data=iris.data, columns=iris.feature_names)
y = pd.DataFrame(data=iris.target, columns=['Species'])
# Train test split
shuffle_split = ShuffleSplit(n_splits=1, test_size=0.3)
# This is equivalent to: 
#   X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3)
# But, it is usable for GridSearchCV
# GridSearch without CV
params = { 'n_estimators': [16, 32] }
clf = RandomForestClassifier()
grid_search = GridSearchCV(clf, param_grid=params, cv=shuffle_split)
grid_search.fit(X, y)

这应该可以帮助任何面临类似问题的人。