逻辑回归的基本步骤

Posted csfreebird

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了逻辑回归的基本步骤相关的知识,希望对你有一定的参考价值。

2 逻辑回归的基本步骤

这也是一般机器学习的解决思路

2.1 获取样本

  1. 这些样本都有实测结果
    1 或者 0 表示事件发生或者不发生
  2. 样本的数量要足够否则会造成过拟合,或者训练效果不好
  3. 样本的准确性要有保证

2.2 选择逻辑回归公式作为预测函数

下面的 h 函数就是预测函数,g 函数就是逻辑回归公式, 也就是12

hθ(x)=g(θTx)=11+eθTx(1)
  • 预测函数的输入是 x 向量和 θ
向量
  • x 向量就是特征值向量
  • θ
向量就是特征的权重, θ0
    • 就是 Inteception, 多元线性函数的截距
  • 输出是事件发生的概率

2.3 对比预测结果和实测结果,获得最佳 θ

寻找让预测结果最接近实测结果的 θ


通常作法就是使用 最(极)大似然估计计算 θ

2.4 θ

对新的 x 向量作预测

以上是关于逻辑回归的基本步骤的主要内容,如果未能解决你的问题,请参考以下文章

当特征系数的符号在逻辑回归中发生变化时,如何根据特征系数做出决策/解释结果?

逻辑回归和最大熵模型

麦肯锡极简工作法-读书笔记

麦肯锡极简工作法-读书笔记

统计学习笔记之逻辑回归

数学建模暑期集训11:逻辑回归(Logistic Regression)处理二分类问题