逻辑回归——多类别分类

Posted qkloveslife

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了逻辑回归——多类别分类相关的知识,希望对你有一定的参考价值。

多分类问题

  • 将邮件分为不同类别/标签:工作(y=1),朋友(y=2),家庭(y=3),爱好(y=4)
  • 天气分类:晴天(y=1),多云天(y=2),下雨天(y=3),下雪天(y=4)
  • 医学图示(Medical diagrams):没生病(y=1),感冒(y=2),流感(y=3)

二分类问题的示意图如下

技术分享图片

多分类问题如下

技术分享图片

One-vs-all(one-vs-rest)

生成三个假的数据集

技术分享图片

定义一个函数

[h_ heta ^{left( { m{1}} ight)}left( x ight) = Pleft( {y = 1|x; heta } ight)]

处理过的数据集就是二分类问题,通过逻辑回归可能得到红线区分不同类别

同理

技术分享图片

定义函数

[h_ heta ^{left( { m{2}} ight)}left( x ight) = Pleft( {y = 2|x; heta } ight)]

技术分享图片

定义函数

[h_ heta ^{left( { m{3}} ight)}left( x ight) = Pleft( {y = 3|x; heta } ight)]

总结公式

[h_ heta ^{left( { m{i}} ight)}left( x ight) = Pleft( {y = i|x; heta } ight)]


当需要预测新的数据的类别时,使用如下公式

[mathop {max }limits_i h_ heta ^{left( { m{i}} ight)}left( x ight)]

也就是使用不同的函数去预测输入x,分别计算不同h(x)的值,然后取其中的最大值。哪个i对应的h(x)越大,就认为属于哪个类。

 

以上是关于逻辑回归——多类别分类的主要内容,如果未能解决你的问题,请参考以下文章

逻辑回归——多类别分类

逻辑回归-6.解决多分类问题

逻辑回归(Logistic Regression, LR)

在sklearn python中处理逻辑回归分类器中的极端不平衡多类

逻辑回归原理

跟着吴恩达老师学习机器学习的第七天 - logistic回归的假设函数math表达式+决策界限+代价函数+简化代价函数和logistic回归方程的梯度下降+用逻辑回归解决多类别分类问题