如果内核=线性，如何选择线性SVC而不是SVC param_grid?

Question

我有以下方法创建grid_cv_object。哪里hyperpam_grid={"C":c, "kernel":kernel, "gamma":gamma, "degree":degree}.

grid_cv_object = GridSearchCV(
estimator = SVC(cache_size=cache_size),
param_grid = hyperpam_grid,
cv = cv_splits,
scoring = make_scorer(matthews_corrcoef), # a callable returning single value, binary and multiclass labels are supported
n_jobs = -1, # use all processors
verbose = 10,
refit = refit
)

例如，这里可以('rbf', 'linear', 'poly')内核。

如何强制为"线性"内核选择 LinearSVC？由于它嵌入在hyperparam_grid我不确定如何创建这种"开关"。

如果可能的话，我只是不想有 2 个单独的grid_cv_objects。

Answer 1

尝试使用以下形式制作参数网格

from sklearn.dummy import DummyClassifier
from sklearn.model_selection import GridSearchCV
from sklearn.pipeline import Pipeline
search_spaces = [
{'svm': [SVC(kernel='rbf')],
'svm__gamma': ('scale', 'auto'),
'svm__C': (0.1, 1.0, 10.0)},
{'svm': [SVC(kernel='poly')],
'svm__degree': (2, 3),
'svm__C': (0.1, 1.0, 10.0)},
{'svm': [LinearSVC()],  # Linear kernel
'svm__C': (0.1, 1.0, 10.)}
]
svm_pipe = Pipeline([('svm', DummyClassifier())])
grid = GridSearchCV(svm_pipe, search_spaces)

讨论：

1. 我们将不同的内核与不同的SVC实例分开。这样，GridSearchCV就不会估计具有不同gammaSVC(kernel='poly')，这些被忽略'poly'并且仅用于rbf。

2. 根据您的要求，LinearSVC(实际上是任何其他模型)，而不是SVC(kernel='linear')，被分开以估计线性 svm。

3. 最佳估算器将是grid.best_estimator_.named_steps['svm']。