如果二元回归模型算出的结果是一个非常小的负数，结果意味着啥呀？

Posted 2023-05-16

如果二元回归模型算出的结果是一个非常小的负数，结果意味着什么呀？

参考技术A 二元回归模型是用来研究两个变量之间关系的统计模型，其中一个变量是自变量，另一个变量是因变量。如果二元回归模型算出的结果是一个非常小的负数，这个结果可能有多重含义，具体需要根据模型参数、假设检验等因素来进行分析。
首先，如果这个非常小的负数是自变量的系数，表示自变量对因变量的影响很小，并且这个影响是负面的，也就是说自变量增加一单位，因变量会减少一个很小的单位。这种情况下，可能需要对数据进行重新处理或者重新设计实验，以得到更准确的模型。
其次，如果这个非常小的负数是t值或p值，表示模型的显著性非常高，也就是说我们有很高的置信度认为自变量和因变量之间的关系确实是负相关的，但是这个关系可能不是很强或者不是线性的。在这种情况下，可能需要更深入地研究变量之间的关系，并考虑其他可能的影响因素，以得到更准确的结论。
最后，如果这个非常小的负数是残差，表示模型的拟合度非常高，也就是说我们的模型能够很好地解释因变量的变化，而且残差非常小，说明我们的模型很好地解释了所有未被自变量解释的变化。在这种情况下，可以认为我们的模型很可靠，并可以用于预测未来的数据。
总之，二元回归模型结果为一个非常小的负数并不一定是坏事，具体需要结合模型参数、假设检验等因素来进行分析和判断。

机器学习笔记逻辑回归

一、逻辑回归问题

二分类的问题为是否的问题，由算出的分数值，经过sign函数输出的是（+1，-1），想要输出的结果为一个几率值，则需要改变函数模型

，其中，，

则逻辑回归的函数为

二、逻辑回归错误评价

线性分类和线性回归的模型为：

其中的线性分数函数均为，逻辑回归有同样的分数函数，模型为

逻辑回归的理想函数为

对于函数f(x)，在数据情况下，D的所有数据在函数下的联合概率为

，我们想要的模型h要使,则对于h来说，在数据D中也符合，

要使需要找到一个g使它发生的可能性最大，即

由

p(x1),p(x2),p(xn)对于已知的数据资料来说是不变的，计算时可以忽略，可知

即求得最大的，由相乘转化为对数求相加，并且加负号转化为求得最小值

可知

三、梯度下降，求得最小的w

对于平滑的凸函数，要求得使W最小的地方即梯度等于0的地方

，即

由

最终对于所有w的梯度为

想要，如果为0公式成立，但这需要都远远大于0，这意味着数据资料要线性可分，但实际情况的大多数的数据资料不一定线性可分，并且含有噪声影响，所以为0不能实现，所以使用梯度下降的PLA算法来逐渐迭代，表示为

最终可表示为，其中，

则逻辑回归的算法为下图，一般取值为0.1