机器学习

Posted 2020-11-05 darknessplus

[toc]

吴恩达机器学习笔记

初识机器学习

监督学习和无监督学习

单变量线性回归

模型描述

假设函数、参数、代价函数、目标
假设函数是对训练数据的拟合，代价函数用来衡量给定参数下假设函数的准确性

梯度下降算法

不断改变参数θ的值，期望找到代价函数的最小值

其中，α称为学习率（Learning Rate），注意参数同步更新（图左下）
思考：为什么α前面是负号？
因为要保证θ始终向着局部最优点运动，虽然可能走过头了，这种情况下通常是α过大。

当接近极小值时，θ的变化值会越来越小，因此不必每次减小α。