机器学习基石：10 Logistic Regression
Posted
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了机器学习基石：10 Logistic Regression相关的知识，希望对你有一定的参考价值。
线性分类中的是非题
－－－＞概率题
（设置概率阈值后，大于等于该值的为O，小于改值的为X）
－－－＞逻辑回归
O为1，X为0
逻辑回归假设
逻辑函数/S型函数：光滑，单调
自变量趋于负无穷时，因变量趋于0；
自变量趋于正无穷时，因变量趋于1；
自变量取0，因变量值为0.5
－－－模拟概率特性
三种线性模型
逻辑回归使用交叉熵代价函数
最小化代价函数时，
发现无法求出使其值最小的解析解，
类比PLA的迭代法，使用梯度下降法求最小值
eta－－－学习速率，与梯度大小有关，正比
v－－－方向，单位长度，方向与梯度相反
逻辑回归算法流程
以上是关于机器学习基石：10 Logistic Regression的主要内容，如果未能解决你的问题，请参考以下文章
[机器学习实战-Logistic回归]使用Logistic回归预测各种实例