属性错误：'KerasTensor'对象没有属性'大小与拥抱脸伯特。具有张量流的自动模型模型

Question

我正在研究tensorflow 2，我使用Hugface的预训练BERT和tensorflow进行文本分类，在这里我想用它创建神经网络：从tensorflow.keras导入层

from transformers import AutoModel
encoder = AutoModel.from_pretrained("bert-base-uncased")
## create neural network input
input_ids = layers.Input(shape=(max_len,), dtype=tf.int32)
token_type_ids = layers.Input(shape=(max_len,), dtype=tf.int32)
attention_mask = layers.Input(shape=(max_len,), dtype=tf.int32)
embedding = encoder(
input_ids, token_type_ids=token_type_ids, attention_mask=attention_mask
)[0]

得到错误：AttributeError:"KerasSensor"对象没有属性"size">

Answer 1

尝试使用

from transformers import AutoTokenizer,TFAutoModel

请尝试使用TFAutoModel而不是AutoModel。