吴恩达机器学习第五天逻辑回归模型

Posted 2021-09-07 aec153

想不到又过了几天
前几天在忙一个项目，需要用前端实现一个页面，遇到跨域的问题，一直弄不出来

逻辑回归

• • • 分类
    • 假设陈述（Hypothesis Representation）
    • 决策边界
    • 代价函数
    • 简化代价函数和梯度下降
    • 更好的优化
    • 解决多类别分别问题
    • 课后习题
    • 正则化（解决过拟合）
    • • 过拟合现象的产生
      • 解决过拟合的方法
      • 代价函数
    • 正则化的线性回归
    • 正则化的逻辑回归
    • 课后题

分类

日常生活中，为了更好的辨别一种东西，会对他归类，那计算机怎么来计算归类呢？

比如上图，通过构建一个函数来进行归类，在这个函数的右边为1，左边为0.

假设陈述（Hypothesis Representation）

因为目前是针对 0 1类的这种分类，所以需要构建一个函数，来实现分类。

上面这个函数就完美地符合条件。

决策边界

决策边界则取决于函数的各个参数，比如下图：



非线性分类

代价函数

可以通过极大似然估计来推断，但是还不会

简化代价函数和梯度下降

更好的优化

除了梯度下降之外还有其他的方法，但是其他方法的话，级别还不够

使用Octavio中函数库，可以不用自己设置学习率

解决多类别分别问题

划分成多个一对二

课后习题

题目的链接
题目的链接

正则化（解决过拟合）

过拟合现象的产生

为了实现更好的效果，我们往往会倾向于的让所有的数据点都尽可能的落在所拟合的函数上，但是这样子的话，就容易产生过拟合的现象。

解决过拟合的方法

一种减少变量【需要人工和损失数据信息】，第二种的正则化【保持所有的变量】

代价函数

在原有的代价函数后面加上对其他变量的参数之和。

正则化的线性回归

正则化的逻辑回归

课后题

来自链接