Logistic回归

Posted 2020-09-30

Logistic回归一般过程：

　　1）收集数据

　　2）准备数据：数据类型为数值型（需要进行距离计算），最好为结构化数据格式

　　3）分析数据

　　4）训练算法：目的是为了找出最佳的分类回归系数

　　5）测试算法：训练结束后，分类将会很快。

　　6）使用算法：首先，将输入的数据转换成对应的结构化数据；然后，基于训练好的回归系数对这些数据进行简单的回归计算

　　　　，判定它们属于哪个类别，之后就可以在输出的类别上做一些其他分析工作。

Sigmoid函数：

　　　　　　

　　其中，将z用向量表示，z=w^Tx，向量w就是我们要找到的最佳参数（系数），为寻求最佳参数，需要用到最优化理论的知识。

　　1、梯度上升法　　

　　要找到某函数的最大值，最好的方法是沿着该函数的梯度方向探寻。