如何使用GridSearchCV在keras模型的超参数优化中使用简单的验证集?

Question

我正在尝试对大型数据集执行超参数优化。而且我想避免使用交叉验证cv来加快优化速度。这就是为什么我想使用验证集，验证拆分 = 0.2 来自训练数据集。

grid = GridSearchCV(estimator=model, param_grid=param_grid, n_jobs=-1, cv=3)
grid_result = grid.fit(X_train, y_train)

我应该如何修改上面的 GridSearchCV(( 参数以使用带有validation_split=0.2的验证数据集并忽略交叉验证以执行超参数优化？

Answer 1

使用 PredefinedSplit，您可以对 Hyperparam Opt使用相同的验证集。 -1 识别您的训练数据，而 0 识别您的有效数据

from sklearn.model_selection import PredefinedSplit, GridSearchCV
X_train = np.random.uniform(0,1, (10000,30))
y_train = np.random.uniform(0,1, 10000)
val_spilt = np.random.choice([-1,0], len(y_train), p=[0.8, 0.2])
grid = GridSearchCV(estimator=model, param_grid=param_grid, n_jobs=-1, 
cv=PredefinedSplit(val_spilt))
grid_result = grid.fit(X_train, y_train)

在此处进行手动检查：

ps = PredefinedSplit(val_spilt)
for train_index, val_index in ps.split():
print("TRAIN:", len(train_index), "VAL:", len(val_index))