预训练模型需要知道的知识点总结，万字长文带你深入学习（建议收藏）

Posted 2021-10-29 文宇肃然

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了预训练模型需要知道的知识点总结，万字长文带你深入学习（建议收藏）相关的知识，希望对你有一定的参考价值。

前言：如何在有限数据下训练高效的深度学习模型？

利用深度学习自动学习特征已经逐步取代了人工构建特征和统计方法。但其中一个关键问题是需要大量的数据，否则会因为参数过多过拟合。

以下是我为大家准备的几个精品专栏，喜欢的小伙伴可自行订阅，你的支持就是我不断更新的动力哟！

一个重要的里程碑是转移学习——受人类启发，不是从大量数据中从头开始学习，而是利用少量样例来解决问题。转移学习有两个阶段：预训练+微调，微调阶段就是转移

以上是关于预训练模型需要知道的知识点总结，万字长文带你深入学习（建议收藏）的主要内容，如果未能解决你的问题，请参考以下文章