机器学习模型怎么优化？怎么评估模型好坏？(面试回答)

Posted 2022-09-05 Better Bench

模型怎么优化？怎么评估模型好坏？

（1）优化角度

对于机器学习模型，从数据、模型、损失函数、优化方法、训练方法、集成学习角度出发

• 数据：数据预处理、数据增广

• 模型：选取合适的模型(如分类的模型就有SVM、XGB、RF等等)；在模型中使用正则化、舍弃、批量归一化等方法降低过拟合。

• 损失函数：不同的损失函数

• 优化方法：不同的优化器、学习率调整、对抗训练

• 集成：多模型集成，包括Boosting和Bagging方法

对于优化模型，可以采用优化算法，如粒子群、遗传、布谷鸟、模拟退火等优化算法。

（2）模型评估

分类模型评价指标

• 混淆矩阵
• 准确率
• 精确率
• 召回率
• F1得分
• ROC曲线
• AUC曲线
• PR曲线：P-R曲线的横轴是召回率，纵轴是精确率

回归模型评价指标

• 均方误差
• 均方误差根
• 平均绝对误差
• 可决系数