我正试图在谷歌的人工智能平台中使用测试版谷歌自定义预测例程来运行我的模型的实时版本。
我在我的包predictor.py中包含一个Predictor类，如下所示：
import os
import numpy as np
import pickle
import keras
from keras.models import load_model
class Predictor(object):
"""Interface for constructing custom predictors."""
def __init__(self, model, preprocessor):
self._model = model
self._preprocessor = preprocessor
def predict(self, instances, **kwargs):
"""Performs custom prediction.
Instances are the decoded values from the request. They have already
been deserialized from JSON.
Args:
instances: A list of prediction input instances.
**kwargs: A dictionary of keyword args provided as additional
fields on the predict request body.
Returns:
A list of outputs containing the prediction results. This list must
be JSON serializable.
"""
# pre-processing
preprocessed_inputs = self._preprocessor.preprocess(instances[0])
# predict
outputs = self._model.predict(preprocessed_inputs)
# post-processing
outputs = np.array([np.fliplr(x) for x in x_test])
return outputs.tolist()
@classmethod
def from_path(cls, model_dir):
"""Creates an instance of Predictor using the given path.
Loading of the predictor should be done in this method.
Args:
model_dir: The local directory that contains the exported model
file along with any additional files uploaded when creating the
version resource.
Returns:
An instance implementing this Predictor class.
"""
model_path = os.path.join(model_dir, 'keras.model')
model = load_model(model_path, compile=False)
preprocessor_path = os.path.join(model_dir, 'preprocess.pkl')
with open(preprocessor_path, 'rb') as f:
preprocessor = pickle.load(f)
return cls(model, preprocessor)
完整的错误Create Version failed. Bad model detected with error: "Failed to load model: Unexpected error when loading the model: 'str' object has no attribute 'decode' (Error code: 0)"表示此脚本中存在问题，特别是在加载模型时。然而，我能够用predict.py:中的相同代码块在本地成功地将模型加载到我的笔记本中
from keras.models import load_model
model = load_model('keras.model', compile=False)
我看到过类似的帖子，建议设置h5py<3.0.0的版本，但这并没有帮助。我可以在setup.py文件中设置自定义预测例程的模块版本：
from setuptools import setup
REQUIRED_PACKAGES = ['keras==2.3.1', 'h5py==2.10.0', 'opencv-python', 'pydicom', 'scikit-image']
setup(
name='my_custom_code',
install_requires=REQUIRED_PACKAGES,
include_package_data=True,
version='0.23',
scripts=['predictor.py', 'preprocess.py'])
不幸的是，我还没有找到一个好的方法来调试谷歌人工智能平台中的模型部署，故障排除指南也没有帮助。任何建议都将不胜感激。谢谢
编辑1:
h5py模块的版本错误–在3.1.0，尽管在setup.py中将其设置为2.10.0。有人知道为什么吗？我确认Keras版本和其他模块设置正确。我试过'h5py==2.9.0'和'h5py<3.0.0'都没有用。关于在此处包含PyPi包依赖项的更多信息。
编辑2:
所以谷歌目前不支持这种功能。
- StackOverflow，enzed01
我在使用AI平台时遇到了同样的问题，该平台的代码在两个月前运行良好，当时我们上次训练我们的模型。事实上，这是由于对h5py的依赖，无法突然加载h5模型。
过了一段时间，我能够使它与运行时2.2和python版本3.7一起工作。我也在使用自定义预测例程，我的模型是一个简单的2层双向LSTM服务分类。
我用TF==2.1设置了一个笔记本VM，并将h5py降级为<3.0.0，带：
!pip uninstall -y h5py
!pip install 'h5py < 3.0.0'
我的setup.py看起来像这样：
from setuptools import setup
REQUIRED_PACKAGES = ['tensorflow==2.1', 'h5py<3.0.0']
setup(
name="my_package",
version="0.1",
include_package_data=True,
scripts=["preprocess.py", "model_prediction.py"]
)
我将compile=False添加到我的模型加载代码中。如果没有它，我在部署中遇到了另一个问题，它给出了以下错误：Create Version failed. Bad model detected with error: "Failed to load model: Unexpected error when loading the model: 'sample_weight_mode' (Error code: 0)"
代码从OP:更改
model = keras.models.load_model(
os.path.join(model_dir,'model.h5'), compile = False)
这使得模型可以像以前一样毫无问题地部署。我怀疑compile=False可能意味着较慢的预测服务，但到目前为止还没有注意到任何事情。
希望这能帮助任何被困在谷歌上搜索这些问题的人！