今日机器学习概念：感知机模型

Posted 2022-08-26 wx5d44d4866b864

关键时刻，第一时间送达！

感知机模型是机器学习二分类问题中的一个非常简单的模型。它的基本结构如下图所示：

感知机的运算过程分为两个部分：线性部分和非线性部分。

其中， xi 是输入， wi 表示权重系数， b 表示偏移常数。感知机的线性输出为：

为了简化计算，通常我们将 b 作为权重系数的一个维度，即 w0。同时，将输入 x 扩展一个维度，为 1。这样，上式简化为：

非线性部分，引入符号函数 sign，输出为：

也就是根据 scores 值与 0 的关系进行判断：

• 若 scores ≥ 0，则预测为正类
• 若 scores < 0，则预测为负类

优点：感知机模型简单易懂，原理清晰，便于直观理解。

缺点：感知机模型中 sign 函数不易求导，不方便直接使用梯度下降算法来迭代求解参数 w。

扩展：将感知机模型中的非线性输出部分 sign 函数改成 sigmoid 函数就变成了逻辑回归模型。sigmoid 函数相比 sign 函数便于求导，所以逻辑回归模型是感知机模型的一种改进！

- End -