逻辑回归模型 Logistic Regression 详细推导 (含 Numpy 与PyTorch 实现)

Posted 珍妮的选择

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了逻辑回归模型 Logistic Regression 详细推导 (含 Numpy 与PyTorch 实现)相关的知识，希望对你有一定的参考价值。


逻辑回归模型 Logistic Regression 详细推导 (含 Numpy 与PyTorch 实现)

文章目录

内容概括

逻辑回归模型 (Logistic Regression, LR) 是一个二分类模型, 它假设数据服从 Bernoulli 分布(也称 0 - 1 分布), 采用 Sigmoid 函数 将线性回归 的结果约束在 区间内, 以表示样本属于某一类的概率. 之后通过最大似然函数的方法, 对目标函数采用梯度下降法实现对模型参数

下面的内容主要是对 LR 进行推导, 按照两种思路:

  1. 使用代数法进行推导
  2. 采用矩阵法进行推导

前者较为繁琐, 而后者非常简洁! 完成推导之后, 再分别使用 Numpy 或者 PyTorch 实现 LR 模型.

广而告之

可以在微信中搜索 “珍妮的算法之路” 或者 “world4458” 关注我的微信公众号；另外可以看看知乎专栏 ​​PoorMemory-机器学习​​, 以后文章也会发在知乎专栏中；

LR 模型介绍

符号说明

在介绍 LR 模型之前, 先对本文用到的符号进行说明;