如何从拥抱脸使用 deberta 模型并使用 .compile() 和 . summary() 用它

Posted 2023-03-29

【中文标题】如何从拥抱脸使用 deberta 模型并使用 .compile() 和 . summary() 用它

【英文标题】：how to use deberta model from hugging face and use .compile() and . summary() with it

【发布时间】：2021-09-23 05:40:23

【问题描述】：

我用这段代码来加载权重

from transformers import DebertaTokenizer, DebertaModel
import torch

tokenizer = DebertaTokenizer.from_pretrained('microsoft/deberta-base')
model = DebertaModel.from_pretrained('microsoft/deberta-base')

之后我想使用编译函数优化和使用损失函数

model.compile(
    optimizer=tf.keras.optimizers.Adam(learning_rate=5e-5),
    loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=True),
    metrics=tf.metrics.SparseCategoricalAccuracy(),
)

我收到了这个错误 AttributeError: 'DebertaModel' 对象没有属性 'compile'

【问题讨论】：

基于 Tensorflow 的模型具有编译和汇总功能。但是这个模型基于pytorch

谢谢，但如何使用 compile 因为我在我的代码中使用了 keras

库支持时可以使用。

【参考方案1】：

使用 pytorch 库处理它的唯一方法