机器学习-sigmoid函数

Posted 2023-03-03 红豆奶茶..

sigmoid函数表达式：

图像：

 不同参数对图像的影响：

sigmoid函数在机器学习中用来更好的拟合曲线 

多个sigmoid函数相加可以组成复杂的曲线

例如，图中红色曲线，可以由0、1、2、3个sigmoid函数相加组成；其中0号sigmoid函数为常数。

y1=sigmoid(w1,b1,c1); y2=sigmoid(w2,b2,c2); y3=sigmoid(w3,b3,c3)

y-red=b+y1+y2+y3;  b为常数

Loss Function 是定义在单个样本上的，算的是一个样本的误差。

Cost Function 是定义在整个训练集上的，是所有样本误差的平均，也就是损失函数的平均。

Object Function（目标函数 ）定义为：Cost Function + 正则化项。

在有些情况不严格区分这三者。

此例中Loss Function：
Cost Function：

训练模型就是要找到是代价函数J最小的参数wi、bi、ci、b

最后将这些参数重新带入代价函数J中，以找到最小的代价函数J。