BERT 作为分类服务？

Posted 2023-03-13

【中文标题】BERT 作为分类服务？

【英文标题】：BERT as a service for classification?

【发布时间】：2020-01-19 18:27:36

【问题描述】：

我在分类任务上微调了 BERT。

bert-as-a-service 允许获取词嵌入，但我想获取输入文本的类别。

这个问题最好在这里描述： https://github.com/hanxiao/bert-as-service/issues/213

关于如何做到这一点的任何想法？

【问题讨论】：

使用 Bert 作为服务进行特征化，然后用它们构建一个简单的分类器

谢谢！如果我有一个训练有素的模型，是否需要再次训练分类器？

意思是，如果你从 BERT-as-Service (BaS) 输出训练分类器，那么你改变 BaS 使用的 BERT 模式，是否需要重新训练分类器？如果这就是你的意思，那么是的

嗨，不。 Bert as a service 提供了一个向量而不是类。我有一个微调模型

Weaviate有语义分类功能：semi.technology/documentation/weaviate/current/classification/…

【参考方案1】：

Bert-as-a-Service 的目的是生成类似于 ELMo 的句子嵌入，而不是用作分类器。

要在微调后使用 BERT 进行分类，可以使用以下链接中给出的实现：

https://github.com/google-research/bert/blob/master/predicting_movie_reviews_with_bert_on_tf_hub.ipynb