10 Logistic Regression

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了10 Logistic Regression相关的知识,希望对你有一定的参考价值。

线性分类中的是非题

--->概率题

(设置概率阈值后,大于等于该值的为O,小于改值的为X)

--->逻辑回归

技术分享

O为1,X为0

技术分享

逻辑回归假设

技术分享

逻辑函数/S型函数:光滑,单调

自变量趋于负无穷时,因变量趋于0;

自变量趋于正无穷时,因变量趋于1;

自变量取0,因变量值为0.5

---模拟概率特性

技术分享

三种线性模型

技术分享

逻辑回归使用交叉熵代价函数

技术分享技术分享技术分享

技术分享

技术分享技术分享技术分享技术分享技术分享

技术分享

最小化代价函数时,

发现无法求出使其值最小的解析解,

类比PLA的迭代法,使用梯度下降法求最小值

技术分享技术分享技术分享

eta---学习速率,与梯度大小有关,正比

v---方向,单位长度,方向与梯度相反

技术分享

技术分享技术分享技术分享

技术分享技术分享

逻辑回归算法流程

技术分享

 

以上是关于10 Logistic Regression的主要内容,如果未能解决你的问题,请参考以下文章

机器学习基石(10)--Logistic Regression

Logistic Regression Cifar10- 使用 tensorflow 1.x 的图像分类

机器学习基石笔记-Lecture 10 Logistic regression

机器学习基石:10 Logistic Regression

干货|10分钟入门PyTorch~附源码

机器学习之逻辑回归(Logistic Regression)