失败的前提条件:表未初始化. 在从 AWS Sagemaker 部署的通用句子编码器上



我已经将universal_sentence_encoder_large_3部署到了 aws sagemaker。 当我尝试使用部署的模型进行预测时,我Failed precondition: Table not initialized.错误。我在下面包含了保存模型的部分:

import tensorflow as tf
import tensorflow_hub as hub
import numpy as np
def tfhub_to_savedmodel(model_name, export_path):
model_path = '{}/{}/00000001'.format(export_path, model_name)
tfhub_uri = 'http://tfhub.dev/google/universal-sentence-encoder-large/3'
with tf.Session() as sess:
module = hub.Module(tfhub_uri)
sess.run([tf.global_variables_initializer(), tf.tables_initializer()])
input_params = module.get_input_info_dict()
dtype = input_params['text'].dtype
shape = input_params['text'].get_shape()
# define the model inputs
inputs = {'text': tf.placeholder(dtype, shape, 'text')}
output = module(inputs['text'])
outputs = {
'vector': output,
}
# export the model
tf.saved_model.simple_save(
sess,
model_path,
inputs=inputs,
outputs=outputs)  
return model_path

我看到其他人问这个问题,但没有发布任何解决方案。 这似乎是tensorflow_hub句子编码器的常见问题

本周早些时候,我在尝试修改此示例 Sagemaker 笔记本时遇到了这个确切的问题。特别是为模型服务的部分。也就是说,在Sagemaker Tensorflow Estimator上运行predictor.predict()

问题中概述的解决方案对我来说非常有效 - https://github.com/awslabs/amazon-sagemaker-examples/issues/773#issuecomment-509433290

我认为这只是因为tf.tables_initializer()只为训练而运行,但如果您想在预测期间运行它,则需要通过legacy_init_op指定它。

最新更新