无监督学习概论

Posted 2022-02-06 herosunly

文章目录

• 0. 写在前面的话
• 1. 无监督学习基本原理
• 2. 基本问题
• • 2.1 聚类
  • 2.2 降维
  • 2.3 概率生成模型
• 3. 无监督学习三要素
• 4. 无监督学习方法
• • 4.1 聚类
  • 4.2 降维
  • 4.3 话题分析
  • 4.4 图分析

0. 写在前面的话

  2021年是自监督学习，尤其是对比学习爆发的一年。不管是CV(simCLR、MoCo)还是NLP(simCSE、simBERT)都涌现出了很多优秀的工作，那么涉及到一个小问题，自监督学习是有监督学习还是无监督学习呢？

  首先，自监督学习的英文为self-supervised learning。自监督学习是包含了监督信号的，但是它的监督信号来自于数据本身，而不是人工标注。如果从这个角度来说，自监督学习是属于无监督学习，因为它的标签并不是人工标注得到的。

  前面的内容仅仅是抛砖引玉，本文的重点依然是传统意义上的无监督学习，后续将通过若干篇博客来系统讲解对比学习，