Keras神经网络的部分依赖图

Question

我有一个使用Keras Sequential API构建的密集连接神经网络。我正在尝试创建一些部分依赖图(PDP(，以便进行一些敏感性分析。我正试图使用scikit-learn plot_partial_dependence函数来执行此操作。我收到以下错误：ValueError: 'estimator' must be a fitted regressor or classifier.。当它第一次出现时，我添加了KerasClassifier的使用。我过去曾成功地使用它在scikit-learn GridSearchCV中使用我的Keras模型。我仍然会犯同样的错误。我也试过KerasRegressor。

有人能告诉我出了什么问题，我该怎么解决吗？我是否绝对需要使用scikit learn的基于决策树的功能才能使用PDP功能？如果是，Keras神经网络和决策树之间最大的实现差异是什么？(我从未使用过决策树。我的机器学习经验仅限于Keras。(

我的相关代码如下，我正在谷歌colab的GPU上运行python。我确信最后一行有几个问题，但我无法通过这一行来解决它们。

from sklearn.inspection import plot_partial_dependence
from keras.wrappers.scikit_learn import KerasClassifier
from keras.wrappers.scikit_learn import KerasRegressor
def create_model():
def swish(x):
return (x*sigmoid(x))
from keras.utils.generic_utils import get_custom_objects
from keras.layers import Activation
get_custom_objects().update({'swish':(swish)})
model=Sequential()
model.add(Dense(1024,activation='swish',input_shape=(6,)))
model.add(Dropout(.1))
model.add(Dense(512,activation='swish'))
model.add(Dense(256,activation='swish'))
model.add(Dropout(.1))
model.add(Dense(128,activation='swish'))
model.add(Dense(64,activation='swish'))
model.add(Dropout(.1))
model.add(Dense(32,activation='swish'))
model.add(Dense(16,activation='swish'))
model.add(Dropout(.1))
model.add(Dense(12, activation='softmax'))
opt=optimizers.Adam(lr=0.05)
model.compile(loss='categorical_crossentropy',optimizer='adam', metrics=['accuracy'])
return model
from keras.callbacks import LearningRateScheduler
from keras.callbacks import EarlyStopping
import math
def scheduler(epoch, lr):
if epoch < 20:
return lr
else:
return lr * math.exp(-0.1)
callback=LearningRateScheduler(scheduler, verbose=1)
weightsCallback=EarlyStopping(patience=30,monitor='accuracy',restore_best_weights=True, min_delta=1*10**-5, verbose=1)
modelClassified=KerasClassifier(build_fn=create_model)
modelClassified.fit(X_train, Y_train, batch_size=50, epochs=50, callbacks=[callback,weightsCallback], verbose=1)
disp=plot_partial_dependence(modelClassified, X_holdout,target=1, verbose =1, features=[0,1,2,3,4,5], feature_names=['aspect ratio','diel inner radius','diel outer radius','diel seperation','diel height','diel constant'])

Answer 1

我发现这个错误实际上是一个bug。无论如何，我的程序应该运行得很好。plot_partial_dependence函数源代码中存在错误。

有关更多详细信息和我用来使其工作的解决方案，请参阅另一个StackOverflow问题的链接：https://stackoverflow.com/a/61485502/13822019